Dalam praktik, persoalan terbesar bukan terletak pada keberadaan AI itu sendiri, melainkan pada kecenderungan manusia untuk memperlakukannya seolah-olah sebagai penasihat ulung yang selalu menyajikan fakta yang pasti benar dan nasihat yang niscaya relevan dengan persoalan hukumnya. Dalam menghadapi persoalan hukum, menurut pendapat penulis, perilaku yang terlalu bergantung pada dan mendewakan AI berbahaya karena dapat membuat seseorang merasa telah menemukan dasar hukum yang kuat. Padahal, yang terjadi justru sebaliknya: ia hanya menerima rangkaian jawaban yang terdengar meyakinkan tanpa terlebih dahulu menguji konteks, validitas norma, maupun relevansi penafsirannya.

Dalam beberapa kesempatan, kami menemukan bahwa beberapa individu yang berkonsultasi dengan kami merasa cukup yakin atas dasar hukum dan/atau penafsiran hukum yang mereka sampaikan. Namun, setelah persoalan dibedah lebih jauh, tampak bahwa pasal yang dijadikan dasar hukum, berikut penafsiran yang menopang dalil mereka, ternyata keliru. Kekeliruan itu muncul karena merujuk pada peraturan yang tidak tepat secara konteks, sudah tidak berlaku, atau dipahami secara salah. Ketika ditelusuri lebih dalam, sumber keyakinan tersebut sering kali berasal dari penggunaan AI yang tidak disertai verifikasi yang memadai.

Salah satu hal penting yang perlu dipahami dalam proses Machine Learning adalah bahwa mesin belajar dari pola dalam data, bukan dengan cara yang sama seperti manusia memahami makna. Jika data yang dipelajari keliru, bias, atau tercemar, maka keluaran yang dihasilkan juga dapat menyesatkan. Prinsip ini sering diringkas dengan ungkapan garbage in, garbage out. Dalam konteks hukum, persoalan ini menjadi serius karena kesalahan kecil dalam mengenali norma, konteks, atau status keberlakuan suatu aturan dapat berujung pada kesimpulan hukum yang seluruhnya keliru.

Dalam beberapa kesempatan, kami menemukan bahwa beberapa individu yang berkonsultasi dengan kami merasa cukup yakin atas dasar hukum dan/atau penafsiran hukum yang mereka sampaikan. Dengan hormat, kami berbeda pendapat dan mencoba menejelaskan dengan membedah topik persoalan agar diskursus atau diskusi sesuai dengan konteks dan pokok masalah. Diskusi lebih lanjut kemudian menyingkap dasar pemikiran mereka dengan lebih jelas; kami menemukan bahwa pasal yang dijadikan dasar hukum, berikut penafsiran hukum yang menjadi dasar dalil dan/atau argumen mereka (ya, kami menghargai Klien yang bertukar pikiran, berargumen, dan berseberangan pendapat dengan kami), ternyata keliru, baik karena merujuk pada peraturan yang tidak tepat secara konteks, peraturan yang sudah kedaluwarsa atau tidak berlaku, termasuk hasilnya yang berupa pendapat hukum yang keliru. Lalu, apa yang kami temukan sebagai penyebabnya? Anda mungkin dapat menebaknya: mereka menggunakan AI, atau dalam hal ini terlalu berlebihan dalam mengandalkan AI.

Suatu hal yang perlu dipahami dalam proses Machine Learning (ML) adalah bahwa mesin belajar dari pola dalam data, bukan dengan cara yang sama seperti manusia. Misalnya, apabila dalam data pelatihan sebuah balon yang sejatinya berwarna merah berulang kali diberi label sebagai biru, model AI dapat mempelajari label yang keliru tersebut dan bila membahas mengenai balon tersebut, ia akan menghasilkan output atau hasil yang salah. Garbage in – Garbage Out. Dalam layanan AI tertentu, ketika Anda menyetujui bahwa percakapan Anda digunakan untuk melatih model, Anda secara tidak langsung turut membentuk bahan pembelajaran AI tersebut. Pada gilirannya, hal itu dapat mempengaruhi kualitas, arah, dan objektivitas keluaran yang dihasilkan kemudian. Dan, tentu, bukan hanya Anda yang menggunakan layanan suatu platform AI, melainkan banyak orang yang dalam hal ini mereka secara tidak langsung berkontribusi pada kekeliruan output dari AI.

Dalam konteks yang disengaja, atau dengan niat jahat atau sekadar iseng, hal ini secara memang terjadi sebagaimana dikaji oleh National Institute of Standards and Technology (NIST), yakni lembaga pemerintah Amerika Serikat yang menyusun standar, pedoman teknis, dan kerangka kerja ilmiah di berbagai bidang, termasuk siber, AI, pengukuran, dan keamanan teknologi, serta Open Worldwide Application Security Project (OWASP), yaitu komunitas global nirlaba yang berfokus pada keamanan perangkat lunak dan aplikasi.

Dalam konteks AI, OWASP juga mengkaji dan menyusun panduan risiko keamanan untuk LLM dan generative AI (AI yang dapat menghasilkan keluaran, baik tulisan maupun gambar, seperti ChatGPT, misalnya), termasuk soal prompt injection (upaya menyiasati atau memanipulasi perintah agar AI memberi jawaban yang semestinya tidak diberikan), data poisoning (pencemaran data pembelajaran AI dengan masukan yang keliru atau menyesatkan), model abuse (penyalahgunaan AI untuk tujuan yang keliru, merugikan, atau melampaui fungsi wajarnya), dan kelemahan sistem AI lainnya. Perbuatan atau tindakan tersebut dapat dilakukan dengan mengoordinasikan banyak orang untuk memberikan masukan yang salah pada sistem AI tertentu. Apabila masukan tersebut masuk ke dalam data atau proses pembelajaran model, hal itu dapat merusak kualitas pembelajaran model, ini termasuk pada perbuatan data poisoning. Namun, perlu dicatat bahwa tidak setiap masukan keliru dari pengguna otomatis menjadi bahan belajar model saat itu juga; hal tersebut bergantung pada cara sistem AI dirancang, dikelola, dan dilatih ulang. Pada dasarnya, hal-hal tersebut membuat AI tidak dapat dijadikan mahaguru atau alat ajaib yang menghasilkan jawaban dengan akurasi dan kebenaran mutlak. Bahkan, jika Anda jeli, Anda dapat melihat bahwa OpenAI selaku pengembang ChatGPT menyisipkan disclaimer yang kurang lebih berbunyi: “ChatGPT can make mistakes“.

Kami berpandangan bahwa dewasa ini, masa dimana teknologi, dalam hal ini AI beserta kemunculan dan tumbuh-kembangnya teknologi sebagai kreasi turunan daripadanya dapat dengan relatif lebih mudah dan cepat diciptakan untuk membantu beragam pekerjaan Advokat, namun keterampilan Advokat sebagai manusia tetap tidak tergantikan oleh karena 3 (tiga) keterampilan utama.

Pertama adalah kecerdasan emosional, yang berkaitan dengan bagaimana Advokat membawa dirinya dalam setiap situasi agar memberikan rasa aman kepada Klien, dengan batasan tertentu sebagaimana diatur dalam kode etik Advokat, misalnya tidak diperkenankannya menjanjikan kemenangan dalam perkara apa pun. Kedua adalah kecerdasan serta kewaskitaan dalam bermanuver pada domain pikiran, yang termanifestasikan dalam penulisan tiap surat, seperti somasi, balasan somasi, gugatan, jawaban, pembelaan, pembuktian, dan lainnya, untuk mengupayakan kepentingan Klien.

Kedua adalah kemampuan Advokat untuk membedakan apa yang sesungguhnya Klien perlukan dan inginkan, yang kemudian ditindaklanjuti dengan menilai dan menimbang, melalui kerangka berpikir strategis atas pilihan-pilihan yang ada, atau bahkan menciptakan pilihan apabila belum tersedia. Pertimbangan dan penilaian tersebut pada akhirnya digunakan untuk membimbing Klien menemukan apa yang sesungguhnya mereka butuhkan, serta mendampingi mereka untuk mencapainya.

Ketiga, keterampilan mengenai kesadaran dan pemanfaatan teknologi, yang dalam konteks tulisan ini mencakup kemampuan menggunakan dan mengelola AI, termasuk menerapkan batasan atas kinerja AI, yang kesemuanya ditempatkan dalam kerangka berpikir seorang Advokat.