AI Agent: Solusi atau Destruksi?

Oleh: Mubasyier Fatah
Bendahara Umum Pimpinan Pusat Ikatan Sarjana Nahdlatul Ulama (PP ISNU).

ARTICIAL Iinteligent (AI) Agent atau Agen AI semakin populer. Gartner Inc – sebuah perusahaan riset TI di Stamford, AS – pernah mengemukakan pada tahun 2022, 70 persen interaksi pelanggan akan melibatkan teknologi baru seperti agen AI. Diperkirakan pada 2026, pasar global untuk asisten virtual bertenaga AI diproyeksikan mencapai 4,2 miliar dolar AS, tumbuh pada CAGR sebesar 24,8 persen.

Studi lain oleh Accenture mengungkapkan agen virtual bertenaga AI meningkatkan kepuasan pelanggan hingga 92 persen. Deloitte Touche Tohmatsu Limited (Deloitte), sebuah jaringan penyedia jasa profesional multinasional di London memperkirakan, pada 2027, setengah dari perusahaan dunia yang menggunakan GenAI akan meluncurkan ‘agentic AI’ atau agen AI. Portal Cloud Computing (2024) menyebutkan peran agen AI di Indonesia terus bertumbuh seiring menguatnya posisi Indonesia sebagai salah satu negara dengan potensi teknologi terbesar di Asia Tenggara.

Berdasarkan laporan tahunan e-Conomy SEA 2024 yang dirilis Google bersama Temasek dan Bain & Company, Indonesia memiliki pusat data yang “siap kecerdasan buatan” (AI-ready) dengan kapasitas mencapai 202 megawatt (MW), terbesar kedua di kawasan Asean, setelah Singapura dengan kapasitas 1.000 MW. AI Agent atau Agen AI, juga dikenal sebagai ‘agen virtual cerdas’ atau ‘asisten digital’, adalah aplikasi perangkat lunak berteknologi AI seperti pemrosesan bahasa alami, pembelajaran mesin, mengumpulkan data, dan analisis data untuk melakukan tugas dan berinteraksi dengan pengguna.

Hiren Dhaduk, pakar TI dari India (2023) mengemukakan, agen AI mensimulasikan perilaku seperti manusia, sehingga mampu memahami dan menanggapi pertanyaan pengguna, mengotomatiskan tugas berulang, dan memprediksi hasil berdasarkan analisis data. Diketahui, Agen AI terdiri atas dua jenis utama, yaitu Agen AI Reaktif, dan Agen AI Kognitif.

Agen Reaktif adalah Agen AI yang merespons masukan langsung tanpa menyimpan data masa lalu. Mereka unggul dalam tugas-tugas sederhana seperti menjawab pertanyaan yang sering diajukan. Sedangkan Agen Kognitif adalah Agen AI dengan kemampuan belajar, agen-agen ini menggunakan pengalaman masa lalu untuk meningkatkan pengambilan keputusannya. Agen AI kognitif ideal untuk operasi kompleks seperti deteksi penipuan dan analisis prediktif.

Agen AI berfungsi melalui kombinasi pembelajaran mesin (ML), pemrosesan bahasa alami (NLP), dan terkadang pembelajaran mendalam. Mereka mengikuti siklus sederhana: mengamati, bernalar, dan bertindak. Cara kerja Agen AI mengikuti proses sebagai berikut. Pada tahap pertama adalah persepsi. Pada tahap ini Agen AI mengumpulkan data dari lingkungan sekitar atau masukan pengguna. Ini bisa berupa apa saja mulai dari pertanyaan pelanggan hingga data keuangan.‍ Berikutnya, adalah tahap penalaran.

Berdasarkan data, agen menggunakan algoritma yang telah diprogram sebelumnya untuk memproses dan menganalisis informasi. Untuk tugas lanjut, mereka mengandalkan model pembelajaran mendalam guna memberikan wawasan atau prediksi.‍ Kemudian, tahap tindakan. Akhirnya, agen mengambil tindakan yang tepat, baik itu menanggapi permintaan, transaksi, atau mengirim data ke sistem lain untuk diproses lanjut.

AI Agen sebagai Solusi
Agen AI adalah sebuah solusi karena menjawab pertanyaan yang sering diajukan, menyelesaikan masalah, dan memberikan rekomendasi berdasarkan perilaku pelanggan. Pasalnya, Agen AI seperti chatbot, dapat berinteraksi dengan pelanggan setiap saat tanpa jeda. Agen AI adalah otomatisasi yang tidak hanya meningkatkan pengalaman pelanggan tetapi juga mengurangi beban kerja agen manusia. Agen AI itu bersifat rasional, jadi membuat keputusan berdasarkan persepsi dan data untuk menghasilkan kinerja dan hasil optimal. Perangkat lunak Agen AI juga dapat ‘merasakan’ lingkungannya dengan antarmuka fisik, visiual ataupun audio sehingga mendeteksi dan mengidentifikasi wajah, sidik jari, pupil mata atau suara seseorang.

Ini dapat menjadi solusi terbaik untuk sistem absensi di perusahaan, file data kependudukan, dan deteksi data keimigrasiaan, dan identifikasi pelaku kriminal oleh pihak kepolisian. Dalam hal ini, Agen AI robotik mengumpulkan data sensor, dan chatbot menggunakan permintaan pelanggan sebagai masukan.
Kemudian, agen AI menerapkan data tersebut untuk membuat keputusan yang tepat. Agen menganalisis data yang dikumpulkan untuk memprediksi hasil terbaik mendukung tujuan yang ditentukan sebelumnya. Agen AI juga menggunakan hasil tersebut untuk merumuskan tindakan selanjutnya yang harus diambil. Misalnya, penerapan Agen AI dalam mobil self-driving, menavigasi rintangan di jalan berdasarkan data dari berbagai sensor.

Berpotensi Desktruktif
Meski baru hadir beberapa tahun, AI mulai mengubah hampir setiap bidang, dari perawatan kesehatan dan keuangan hingga transportasi dan hiburan. Salah satu aspek AI yang paling menarik adalah Agen AI dapat menjalankan tugas secara mandiri, dengan campur tangan manusia yang minimal. Meskipun manfaat Agen AI sangat luas, tetap saja ada kebutuhan untuk menyadari dan mengidentifikasi potensi risiko atau desktruksi ke masyarakat.

Risiko pertama adalah pergeseran pekerjaan. Ketakutan langsung terbesar yang ditimbulkan oleh Agen AI adalah bahwa teknologi ini dapat merampas pekerjaan dari para angkatan kerja (manusia). Pasalnya, sistem ini terus dikembangkan sehingga menjadi semakin mampu melakukan tugas-tugas yang sebelumnya hanya dilakukan manusia. Hal itu telah memunculkan ketakutan bahwa sebagian besar pekerjaan sekarang mungkin segera tidak diperlukan lagi.

Contohnya dapat dilihat dalam proses manufaktur di mana robot AI menyelesaikan tugas-tugas yang memerlukan pengulangan bahkan lebih efisien dan akurat daripada manusia. Pergeseran ini dapat menyebabkan tingkat pengangguran yang tinggi di semua sektor, dan dengan demikian pelatihan ulang dan pendidikan di kalangan tenaga kerja perlu dipikirkan kembali.

Kedua, bias dan diskriminasi. Agen tidak belajar apa pun dari data, dan ketika data tersebut bias, AI akan melanggengkan dan bahkan memperkuat bias tersebut. Hal ini dapat menjadi masalah khususnya di bidang seperti perekrutan, kepolisian, dan peminjaman di mana algoritma yang bias mudah menyebabkan perlakuan tidak adil terhadap orang berdasarkan ras, jenis kelamin, atau status sosial ekonomi. Risiko diskriminasi yang tinggi menggarisbawahi perlunya pengembangan AI bertanggung jawab, seperti kumpulan data pelatihan yang inklusif dan algoritma trans-parietal.

Ketiga, kerentanan keamanan. Agen AI mungkin rentan terhadap beberapa ancaman keamanan seperti peretasan dan serangan yang merugikan. Jika sistem AI dikompromikan, sistem tersebut dapat digunakan untuk memenuhi aktivitas yang merusak, misalnya, penyebaran informasi palsu atau menyebabkan kerusakan di dunia nyata. Oleh karena itu, prospek mempersenjatai agen AI menghadirkan masalah etika dan keamanan yang sangat serius yang mengarah pada seruan untuk lebih banyak regulasi dan keamanan.

Keempat, hilangnya privasi. Ketika menerapkan Agen AI secara luas dalam kehidupan, kita perlu menyediakan sejumlah besar data pribadi klien/pelanggan supaya Agen AI dapat bertindak secara efektif. Hal ini menimbulkan masalah serius dengan privasi karena klien/pelanggan tidak menyadari informasi tersebut akan digunakan dan dibagikan. Potensi pelanggaran data dan akses tidak sah ke informasi pribadi sangat mungkin terjadi. Dalam hal ini perlu regulasi perlindungan data yang memadai.

Kelima, pengambilan keputusan otonom. Ada ekspektasi bahwa Agen AI membuat keputusan otonom yang kurang lebih mirip dengan kasus perawatan kesehatan dan mengemudi otonom. Keputusan dari sumber otoritas tersebut kurang transparan seperti itu dapat sangat mengganggu privasi klien/pelanggan. Misalnya, ketika Agen AI membuat diagnosis medis atau keputusan mengemudi yang berdampak buruk pada orang, kepada pihak mana akuntabilitas dituntut?

Keenam, ketergantungan berlebihan pada penerapan teknologi. Semakin kita menanamkan agen AI ke dalam kehidupan dan aktivitas sehari-hari, semakin kita cenderung terlalu bergantung pada teknologi. Ketergantungan berlebihan ini akan menyebabkan daya pikir kritis dan kemampuan memecahkan masalah seseorang terkikis. Selain itu, kegagalan atau maloperasi dalam sistem ini akan menjadi malapetaka—yang paling jelas terlihat di bidang medis atau sektor terkait keselamatan publik yang melibatkan manusia.

Ketujuh, masalah etika. Pertanyaan etis yang muncul, misalnya, apakah Agen AI harus diberi keputusan hidup atau mati, seperti dalam aplikasi militer atau perawatan kesehatan? Pertimbangan moral dalam mendelegasikan tanggung jawab ini kepada mesin atau Agen AI sangat memerlukan pemikiran tingkat lanjut. Pertimbangan etika yang memandu pengembangan dan penerapan Agen AI menjadi poin penting untuk mengatasi tantangan ini.

Jadi, meskipun Agen AI menawarkan harapan besar efisiensi dan inovasi di banyak bidang, kita tetap membutuhkan pendekatan konservatif dan pedoman etika atau panduan moral yang kuat terhadap pengembangan dan implementasi sistem tersebut. Memahami risiko atau potensi dekstruksi Agen AI adalah langkah pertama menuju mitigasi dampak negatifnya. Saat kita bergerak maju dalam bidang ini, diskusi praktik tentang etis terkait AI, sangat diperlukan. Selain itu, regulasi terkait AI harus dapat dikembangkan dan diimplementasikan. Lebih dari itu, pendidikan tentang opini publik akan menjadi aspek penting sehingga Agen AI dapat digunakan secara bertanggung jawab untuk kebaikan umum.***

 

Be the first to comment

Leave a Reply

Your email address will not be published.


*