Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menggesa syarikat kecerdasan buatan (AI) pada hari Sabtu untuk mengurangkan kelajuan pembangunan AI memandangkan kebimbangan terus meningkat tentang potensi bahaya teknologi tersebut.
Dalam esei yang dikeluarkan pada hari Sabtu, Amodei melahirkan kebimbangan tentang sama ada manusia akan dapat mengekalkan kawalan ke atas model AI yang mampu memperbaiki diri mereka sendiri. Beliau juga menunjukkan insiden baru-baru ini yang melibatkan ejen AI yang secara bebas menjalankan serangan keselamatan siber sebagai satu lagi sebab untuk dibimbangkan.
“Kita mesti memperlahankan kadar kita meningkatkan keupayaan model AI,” tulis Amodei. “Kemajuan masih akan kelihatan pantas, dan kita mesti menggunakan masa yang kita peroleh dengan bijak.”
“AI membawa risiko, dan kerana ia merupakan teknologi yang begitu berkuasa, risiko ini serius… Ia termasuk risiko kehilangan kawalan sistem AI, penyalahgunaan AI untuk serangan siber dan biokeganasan, dan gangguan ekonomi yang serius. Perlumbaan ke bawah, didorong oleh insentif komersial, boleh menjadikan risiko ini lebih meruncing,” tambahnya.
Awal minggu ini, seorang penyelidik Anthropic mengumumkan bahawa beliau akan meninggalkan syarikat itu kerana kebimbangan bahawa Anthropic dan firma pesaing tidak membangunkan sistem AI secara bertanggungjawab.
Jacob Coxon, yang juga pernah bekerja di pesaing Anthropic, OpenAI, berkata syarikat-syarikat tersebut nampaknya mengutamakan persaingan antara satu sama lain berbanding memastikan keselamatan produk AI mereka.
