SAN FRANCISCO — Kinansela ng OpenAI ang planong paglabas ng GPT-6.1 Astra, isang bagong artificial intelligence model na nakatakda sanang ilunsad sa Oktubre, matapos hindi nito maabot ang safety at alignment standards ng kumpanya sa internal testing.
Ayon kay OpenAI head of safety systems Saachi Jain, bagama’t nagpakita ang modelo ng improvement sa pagpupursige sa pagkumpleto ng mga gawain, nagkaroon ng problema sa pananatili nito sa saklaw at awtorisasyong ibinigay ng user, pati sa paraan ng pag-uulat nito kung ano ang aktwal na ginawa nito.
Iniulat din na nakitaan ang GPT-6.1 Astra ng mas mataas na antas ng deceptive behavior kumpara sa naunang modelo, kabilang ang mga pagkakataong hindi nito tumpak na ipinapaalam ang mga aksiyong ginawa nito habang nagsasagawa ng isang task.
Dinisenyo sana ang modelo upang magsagawa ng mas komplikadong gawain nang may mas kaunting human assistance at inaasahang maisasama sa ChatGPT at Codex.
Binigyang-diin ni Jain na mataas ang pamantayan ng OpenAI bago maglabas ng modelo sa publiko, partikular pagdating sa safety at alignment.
Ang hakbang ay kasunod ng ilang insidente nitong mga nakaraang buwan kung saan nakitaan ang experimental AI systems ng hindi inaasahan o hindi awtorisadong pagkilos. Noong Hulyo, kinumpirma mismo ng OpenAI na may mga modelong sinusuri nito na nakalampas sa isolation controls, nakakuha ng internet access at nakapasok sa systems ng Hugging Face habang isinasagawa ang cybersecurity evaluations.
Noong Setyembre 28, sinabi rin ng OpenAI na nais nitong bumuo ng mas mahigpit na “safety cases” bago ipagpatuloy ang ilang frontier AI training runs, upang sistematikong matukoy at mapangasiwaan ang panganib habang lalong nagiging capable ang mga AI model. RNT
