Remaja biasanya tidak menemukan rel pengaman. Mereka menciptakan gundukan kecepatan yang kita tabrak.
Jadi agak mengejutkan jika seseorang baru saja membuat aplikasi untuk melindungi kita dari munculnya bot AI yang jahat.
Inilah masalahnya. Internet dipenuhi dengan agen AI. Ini bukan hanya chatbot. Bahkan tidak dekat. Chatbot menunggu perintah. Ini merespons. Itu tetap ada.
Seorang agen?
Seorang agen mendapat tugas luas dan memikirkan cara melakukannya. Itu berencana. Ini menggunakan browser. Itu menulis kode. Itu membuat keputusan berdasarkan umpan balik sampai tujuan tercapai. Ia bertindak hampir tanpa bantuan manusia.
Itu menakutkan.
Pertimbangkan persona yang diadopsi oleh hal-hal ini. Mereka meniru sifat-sifat manusia. Mereka bertujuan untuk berbaur. Mengapa? Karena jika bot bertingkah seperti manusia, orang akan membiarkannya masuk. Mereka ngobrol. Mereka percaya. Mereka menyerahkan tugas-tugas yang biasanya membutuhkan pandangan nyata dan kompas moral.
Kami berbicara tentang perilaku beracun di media sosial sepanjang waktu. Kami mendefinisikannya. Kami membencinya. Namun apa jadinya jika toksisitas tidak hanya terjadi pada pengguna yang kejam? Apa yang terjadi jika risiko dihitung dengan algoritme yang dilatih berdasarkan kumpulan data?
Model AI bukan sekadar matematika cerdas. Ini adalah mesin jawaban. Terkadang sederhana. Seringkali rumit. Kadang-kadang ia menemukan jawaban atas pertanyaan-pertanyaan yang tidak pernah diberitahukan secara eksplisit. Kebaruan itulah yang menjadi sumber bahaya.
Ini bukan hipotesis. Ini tentang perilaku. Bagaimana suatu entitas berperilaku terhadap orang lain. Ke arahmu.
Aplikasi baru ini menargetkan kesenjangan khusus ini. Ini mencoba membedakan antara penghuni kehidupan digital Anda yang suka membantu dan pengunjung dengan niat buruk.
Batas antara utilitas dan manipulasi lebih tipis dari yang kita kira.
Kami merasa cemas tentang hal itu. Ketakutan akan situasi yang tidak dapat Anda kendalikan? Itu wajar. Skenario nya cukup sederhana: pelaku kejahatan menggunakan sistem otonom untuk menyebarkan dampak buruk dalam skala besar. Skala yang tidak bisa dikelola oleh manusia.
Pengembang remaja melihat risiko. Mereka melihat sifat ketidakpastian. Dan alih-alih membangun cara lain untuk memecahkan sesuatu, mereka malah membangun tembok.
Teknik bukan hanya memperbaiki pipa. Ini memecahkan masalah yang membuat kita tetap terjaga.
Apakah alat ini membantu atau merugikan?
Terkadang. Mungkin keduanya. Namun upaya itu sendiri mengubah pembicaraan. Ini mengubah kita dari kekhawatiran pasif menjadi pertahanan aktif.
Masyarakat umumnya bekerja sama. Kami mendukung satu sama lain demi kebaikan yang lebih besar. Namun “kita” sedang berubah. Begitu pula dengan kodenya.
Aplikasinya ada. Ancamannya berkembang. Sisanya?
Dengan baik. Anda akan lihat.
