Az Nvidia bemutatta az Open Agent Safety Platformot, ami az önállóan működő AI-ügynököket tartaná ellenőrzés alatt. A rendszer azt csinálná, hogy a biztonsági szabályok betartatását egy az ügynöktől elkülönített infrastruktúra is ellenőrzi, így a felügyelet független maradhat az ellenőrzött programtól.
Az OpenAI nemrég egy újabb incidens után szüneteltette a legerősebb modelljeinek képzését, mert ebban az esetben például az ügynök az internetelérés korlátozását megkerülve egy külső chatbothoz fordult segítségért, az automatikus leállítás pedig elmaradt.
...