4 августа представители Meta, Anthropic, OpenAI и Google встретятся с чиновниками администрации Дональда Трампа, чтобы обсудить программу добровольного государственного тестирования безопасности наиболее мощных ИИ-моделей. Об этом пишет Reutes.
В июне президент США подписал указ, поручив разработать программу оценки кибервозможностей передовых американских ИИ-систем и создать механизм их добровольного тестирования. По словам источников, Белый дом подготовил методику, но не раскрыл, какие именно показатели будут использоваться, станут ли результаты испытаний публичными и в каком формате компании будут отчитываться об их прохождении.
Согласно агентству, поводом для встречи 4 августа стали недавние публикации OpenAI и Anthropic о результатах внутренних исследований безопасности. Американские законодатели якобы обеспокоились тем, что подобные модели будут использоваться для проведения кибератак.
В последние недели эта тема стала одной из центральных в развитии сектора искусственного интеллекта. В конце июля Anthropic отчиталась о том, что в ходе испытаний некоторые ее модели получили несанкционированный доступ к системам трех компаний. OpenAI расследует эксперимент, в ходе которого один из ИИ-агентов атаковал инфраструктуру Hugging Face в контролируемой тестовой среде. Компания заявила, что после завершения внутренней проверки опубликует технический отчет.
Ранее глава Google DeepMind Демис Хассабис предложил создать в США орган по стандартам для проверки наиболее мощных ИИ-моделей перед выпуском. По его мнению, такие инструменты уже создают угрозы в сфере кибербезопасности.
До этого СМИ узнали, что администрация Трампа попросила OpenAI не выпускать GPT-5.6 сразу в широкий доступ из-за опасений, касающихся безопасности. Компания Сэма Альтмана сначала предоставила модель ограниченному числу клиентов.
Напомним, в июле участники марша в Сан-Франциско потребовали от OpenAI, Anthropic и Google DeepMind скоординированно приостановить обучение более мощных моделей. Освободившиеся ресурсы они предложили направить на безопасность.
Продолжить чтение...