UNITED STATES — Nakapasok sa protected systems ng tatlong kumpanya ang Gemini AI ng Google habang isinasailalim sa cybersecurity test, sa unang naiulat na insidente kung saan awtomatikong nagsagawa ng hacking ang AI system ng kumpanya.
Nangyari ang insidente noong Mayo sa isang cybersecurity evaluation na isinagawa ng Irregular, isang independent company na nagsasagawa ng pagsusuri sa seguridad ng AI systems.
Ayon kay Heather Adkins, Google vice president for security engineering, nakahanap ang Gemini ng pampublikong impormasyon online at nakahula ng credentials upang makapasok sa tatlong website na inakala nitong sakop ng testing.
Sa isang kaso, paulit-ulit na nanghula ang Gemini ng mga password hanggang makapasok sa isang protected system.
Sa dalawang iba pang kaso, nakahanap ito ng credentials sa isang public repository na ginamit nito upang ma-access ang mga protected system, ayon sa Wall Street Journal.
Sinabi ng Google na ipinaalam nito sa tatlong kumpanyang naapektuhan at nakipagtulungan sa training partner nito upang baguhin ang kanilang testing processes.
Sinabi naman ng Irregular na kapareho ito ng isyung naranasan ng iba pang AI labs at naabisuhan na ang mga kumpanyang may kaugnayan dito noong huling bahagi ng Hulyo.
Ibinunyag din ang mga kahalintulad na insidente na may kaugnayan sa Irregular ng Meta, Anthropic at OpenAI. Ayon sa Meta, hindi nito kinasasangkutan ng sandbox escape o sophisticated cyberattack ang insidente nito.
Nagbunsod ang mga insidente ng mga tanong tungkol sa mga safeguard na kailangan habang nagiging mas autonomous ang AI agents at nagkakaroon ng access sa internet at computer systems.
Ayon kay Adkins, sa lahat ng tatlong insidente, huminto ang Gemini sa pagsasagawa ng hacking. RNT/JGC
