Facebook Mematikan Sistem AI-nya Karena Mulai Menciptakan Bahasanya Sendiri

Facebook mematikan salah satu sistem AI (Artificial Intelligence)-nya setelah sistem chatbot tersebut mulai berbicara dalam bahasa mereka sendiri dan tidak mematuhi kode yang diberikan.

Hal itu terjadi setelah beberapa hari sebelumnya CEO Tesla, Elon Musk mengatakan bahwa AI adalah sebuah ancaman besar. Berbeda pendapat dengan CEO Facebook, mark Zuckerberg yang mengatakan bahwa AI akan bermanfaat besar.

Menurut sebuah laporan di Tech Times pada hari Minggu 30 Juli lalu, Facebook terpaksa harus menarik sistem AI yang mereka kerjakan “karena keadaan tidak terkendali”.

“AI tidak mulai mematikan komputer di seluruh dunia atau sejenisnya, tapi berhenti menggunakan bahasa Inggris dan mulai menggunakan bahasa yang dibuatnya sendiri,” catat laporan tersebut.

Awalnya sistem AI menggunakan bahasa Inggris untuk bercakap-cakap satu sama lain, namun kemudian mereka menciptakan sebuah bahasa baru yang hanya bisa mereka mengerti, menentang tujuan awal mereka dibuat.

Hal ini menyebabkan para peneliti Facebook untuk mematikan sistem AI dan kemudian memaksa mereka untuk berbicara satu sama lain hanya dalam bahasa Inggris.

Pada bulan Juni, para peneliti dari Facebook Artificial Intelligence Research Lab (FAIR) menemukan bahwa sementara mereka sibuk berusaha memperbaiki sistem, AI tersebut menciptakan bahasa mereka sendiri.

Segera setelah itu, bot mulai menyimpang dari arahan yang ditentukan dan mulai berkomunikasi dalam bahasa yang sama sekali baru yang mereka buat tanpa input manusia.

Dengan menggunakan algoritma machine learning, AI dibiarkan berkomunikasi secara bebas dalam upaya memperkuat keterampilan percakapan mereka.

Para periset juga menemukan bot ini sebagai “negosiator yang sangat licik”.

“Seiring waktu, bot menjadi sangat terampil dalam bernegosiasi dan bahkan mulai berpura-pura tertarik pada satu item untuk ‘mengorbankan’nya pada tahap selanjutnya, sebagai kompromi yang palsu,” tambahnya.

Meskipun ini merupakan lompatan besar bagi AI, beberapa ahli termasuk Stephen Hawking telah memiliki kekhawatiran bahwa manusia (yang berkembang dengan evolusi biologis yang lambat) dapat digantikan oleh AI.

Bill Gates dan mantan pendiri Apple Steve Wozniak juga telah menyatakan keprihatinan mereka tentang ke mana teknologi AI sedang menuju.

Menariknya, kejadian ini terjadi beberapa hari setelah lisan antara CEO Facebook dan Musk yang berdebat mengenai masa depan AI.

“Saya sudah berbicara dengan Mark tentang Artificial Intelligence. Pemahamannya tentang topik ini terbatas,” Kata Elon Musk di Twitter minggu lalu.

Musk sering berbicara mengenai AI dan menyebut kemajuannya sebagai “risiko terbesar yang kita hadapi dalam peradaban ini”.

“AI adalah kasus khusus yang jarang terjadi dimana kita harus proaktif dalam regulasi, sebelum kita terlambat,” katanya.

 

(Bussiness Insider)