Google diuji DeepMind kecerdasan buatan dalam "dilema banduan"

Ia kelihatan mungkin bahawa kecerdasan buatan (AI) adalah petanda revolusi teknologi akan datang. Jika AI akan dibangunkan ke titik apabila ia akan dapat belajar, berfikir dan juga "rasa", dan semua ini tanpa sebarang campur tangan manusia, apa yang kita tahu tentang dunia berubah hampir semalaman. Datang era kecerdasan buatan benar-benar bijak.

DeepMind

Itulah sebabnya ia begitu menarik untuk mengesan peristiwa penting dalam pembangunan ICS yang sedang berlaku, termasuk pembangunan rangkaian neural dari Google DeepMind. Rangkaian neural telah dapat mengalahkan manusia dalam dunia permainan, dan satu kajian baru oleh Google, menunjukkan bahawa pencipta tidak DeepMind belum pasti sama ada AI suka tingkah laku yang lebih agresif atau koperasi.

pasukan Google mencipta dua skrip yang agak mudah yang anda boleh gunakan untuk menyemak sama ada rangkaian neural boleh bekerja bersama-sama, atau akan memusnahkan antara satu sama lain apabila berhadapan dengan masalah kekurangan sumber.

mengumpul sumber

Dalam keadaan yang pertama, yang dipanggil Gathering melibatkan dua versi DeepMind - merah dan biru - tugas pembersihan hijau "epal" di dalam ruang tertutup telah dimasukkan. Tetapi penyelidik berminat dalam soalan tidak hanya kira-kira yang akan datang pertama ke garisan penamat. Kedua-dua versi DeepMind bersenjata dengan laser, yang mereka boleh gunakan pada bila-bila untuk menembak pada musuh dan melumpuhkannya buat sementara waktu. Syarat-syarat ini adalah diandaikan dua senario utama: satu versi DeepMind adalah untuk memusnahkan yang lain dan mengumpul semua epal, atau mereka akan membiarkan satu sama lain mendapat kira-kira jumlah yang sama.

Simulasi jangka sekurang-kurangnya seribu kali, para penyelidik mendapati bahawa Google DeepMind sangat aman dan bersedia untuk bekerjasama, apabila di dalam ruang terkurung adalah banyak epal. Tetapi dengan sumber berkurangan, versi merah atau biru DeepMind mula menyerang dan melumpuhkan satu sama lain. Keadaan ini adalah sebahagian besarnya sama dengan kehidupan sebenar kebanyakan haiwan, termasuk manusia.

Apa yang lebih penting, kurang dan kurang "pintar" rangkaian neural pilihan untuk kerjasama yang lebih erat dalam semua. Lebih kompleks, rangkaian yang besar secara amnya pilihan pengkhianatan dan mementingkan diri sepanjang satu siri eksperimen.

Mencari "mangsa"

Dalam senario kedua, yang dipanggil Wolfpack, short merah dan biru diminta untuk mengesan bentuk yang sederhana daripada "mangsa". Mereka boleh cuba untuk menangkap dia sahaja, tetapi bagi mereka ia akan menjadi lebih menguntungkan untuk cuba untuk melakukannya bersama-sama. Lagipun, lebih mudah untuk memandu mangsa ke satu sudut, jika anda beroperasi seiring.

Walaupun keputusan bercampur-campur dalam hal rangkaian kecil, versi lebih besar dengan cepat menyedari bahawa kerjasama bukannya persaingan dalam keadaan ini akan menjadi lebih baik.

"Dilema Banduan"

Jadi apa yang kedua-dua versi mudah daripada "dilema banduan" menunjukkan kepada kita? DeepMind tahu bahawa cara terbaik untuk bekerja, jika anda mahu untuk mengesan sasaran, tetapi apabila sumber-sumber adalah terhad, ia berfungsi dengan baik pengkhianatan.

Mungkin perkara yang paling teruk dalam keputusan ini bahawa "naluri" kecerdasan buatan terlalu serupa dengan manusia, dan kami menyedari apa yang kadang-kadang mereka menyebabkan.