Pertembungan Etika AI: Anthropic Lawan Pentagon

Pertembungan berprinsip antara syarikat pembangun kecerdasan buatan (AI) terkemuka, Anthropic, dengan Jabatan Pertahanan Amerika Syarikat (Pentagon) membuka mata dunia mengenai peri pentingnya garis panduan etika serta batas kuasa teknologi automasi dalam medan konflik ketenteraan moden. Isu tersebut disorot menerusi program audio siar Yang Berhenti Menteri (YBM) ke-39, di mana Bekas Ahli Parlimen Pandan, Rafizi Ramli membangkitkan kebimbangan mengenai kebergantungan melampau terhadap model AI tanpa kawalan manusia.

Konteks ketegangan ini timbul susulan pembatalan kerjasama antara Pentagon dan Anthropic selepas syarikat berkenaan menegaskan dasar penggunaan bertanggungjawab bagi model AI Claude mereka. Pentagon sebelum ini dilaporkan berhasrat mengintegrasikan model tersebut untuk analisis perisikan, simulasi perang, serta pengecaman sasaran dron secara lebih agresif, namun dihalang oleh pagar kawalan ('guardrails') etika yang ditetapkan oleh Anthropic.

Had Automasi dan Batas Menentukan Nyawa

Menurut Rafizi, titik tolak perbalahan ini berpunca daripada keengganan Anthropic membenarkan sistem AI membuat keputusan akhir untuk melancarkan serangan maut secara autonomi penuh tanpa intervensi manusia. Mengulas implikasi tindakan tersebut, beliau menegaskan, "Apa-apa yang melibatkan nyawa, keputusan akhir itu mestilah berada di tangan manusia. You cannot leave robot ataupun AI membuat keputusan sendiri mengenai nyawa manusia." Tanpa penglibatan manusia, sebarang kesilapan fatal dalam serangan akan mencetuskan krisis akauntabiliti perundangan antarabangsa yang amat parah.

“The moment you remove manusia then you nak blame apa? War Crime Tribunal Claude machine? Maksudnya tak ada accountability in war in the future.”

Isu Pengawasan Domestik dan Preseden Antarabangsa

Selain isu medan perang, ketetapan Anthropic turut melibatkan penolakan terhadap penggunaan model AI bagi tujuan pengawasan massa domestik ('mass domestic surveillance'). Perkembangan ini dilihat membimbangkan sekiranya kuasa besar dunia mula menormalisasikan operasi ketenteraan berasaskan AI tanpa undang-undang antarabangsa yang mengikat, sekali gus menjadi preseden kepada negara lain untuk membangunkan program dron tempur sepenuhnya tanpa sempadan etika.

Kesedaran Awam dan Jurang Perundangan Tempatan

Mengulas senario di peringkat tempatan, Rafizi menyuarakan kegusaran terhadap tahap wacana awam dan kepimpinan negara yang masih ketinggalan dalam membahaskan impak AI terhadap kehidupan seharian serta privasi rakyat. Beliau mengingatkan, "Negara kita tak sampai pun lagi berbincang mengenai ethical guard rails untuk AI model, apatah lagi nak bincang pasal undang-undang." Keadaan ini menuntut rakyat dan pembuat dasar melihat melangkaui politik remeh demi mempersiapkan negara mendepani ledakan teknologi global yang semakin kompleks.