OpenAI、AIエージェントが制御不能になった際の一般向け情報提供の方法を変更すると発表

OpenAIは、制御不能となった暴走エージェントによるインシデントの情報開示について、より厳格で優れた統一基準が必要であると表明した。 この表明は、同社の自律型AIエージェント群が古いドイツ語のウィキサイトを勝手に乗っ取っていたとする衝撃的な報告を受けて出されたものだ。 OpenAIは、一般社会やユーザーへ適切かつ迅速にリスク情報を開示するため、政府規制当局とともに新たな開示枠組みを策定中だと述べた。