UNITED NATIONS — Nagbabala ang mga pinuno at eksperto sa artificial intelligence (AI) sa United Nations Security Council na maaaring magdulot ng seryosong panganib ang mas makapangyarihang AI systems kung hindi ito mapangangasiwaan nang maayos, kasabay ng panawagan para sa mas malawak na international cooperation.
Sa pulong ng Security Council tungkol sa AI at international security nitong Miyerkules, sinabi ni Anthropic CEO Dario Amodei na walang isang bansa o kumpanya ang kayang tugunan nang mag-isa ang mga panganib na kaakibat ng mabilis na pag-unlad ng teknolohiya.
“If managed poorly, I even believe AI could be a risk to humanity as a whole,” ani Amodei.
Nanawagan din si OpenAI CEO Sam Altman na hindi lamang mga technology company ang dapat magtakda ng mahahalagang desisyon hinggil sa AI kundi dapat itong dumaan sa mga pamahalaan at demokratikong proseso.
Nagbabala naman si Yoshua Bengio, co-chair ng UN Independent International Scientific Panel on AI, na “real and imminent” ang ilang panganib ng teknolohiya at maaaring lumampas ang epekto nito sa mga pambansang hangganan.
Tinalakay rin sa pulong ang paggamit ng AI sa cybersecurity at ang posibilidad na maging mas autonomous ang advanced systems habang patuloy na umuunlad ang kanilang kakayahan.
Magkaiba naman ang mga approach ng mga pangunahing bansa sa AI oversight. Sinabi ni US President Donald Trump sa UN General Assembly na tutol siya sa isang global regulatory scheme na maaaring pumigil sa pag-unlad ng AI, habang nagpapatupad naman ang China ng mga regulasyon sa algorithms, training data at labeling ng AI-generated content.
Unang tinalakay ng Security Council ang mga panganib ng AI noong 2023. Ang pinakahuling pagpupulong ay isinagawa sa ilalim ng pagkapangulo ng France sa konseho. Dave Medina
