SAN JOSE: Ketua Pegawai Eksekutif syarikat kecerdasan buatan (AI) Anthropic Dario Amodei, menggesa kerajaan diberikan kuasa untuk menghentikan sistem AI yang berbahaya, dengan menyatakan model AI berkuasa tinggi perlu tertakluk kepada pengawasan berasaskan risiko, lapor Agensi Berita Jerman (dpa).
Dario Amodei dalam satu hantaran blog yang diterbitkan semalam berkata sistem AI yang canggih harus dinilai untuk risiko termasuk ancaman keselamatan siber, penyalahgunaan senjata biologi, dan potensi kehilangan kawalan terhadap sistem berkenaan, termasuk melalui penambahbaikan kendiri secara automatik yang boleh memburukkan lagi risiko sedemikian.
Penilaian sedemikian boleh dijalankan oleh sebuah badan kerajaan yang berfungsi seperti pengawal selia penerbangan atau oleh juruaudit swasta yang dilantik kerajaan, katanya.
Anthropic sejak sekian lama menyokong peraturan yang lebih ketat terhadap industri AI dan menerima kritikan daripada sebahagian pihak dalam sektor itu serta daripada Rumah Putih berhubung pendiriannya.
Syarikat itu, yang merupakan pesaing utama kepada pembangun ChatGPT iaitu OpenAI, baru-baru ini menarik perhatian dengan model yang mampu mengenal pasti kerentanan lama dalam perisian yang digunakan secara meluas, sekali gus meningkatkan kebimbangan bahawa AI boleh digunakan untuk membolehkan serangan siber berskala besar. – Bernama