Центр стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли США объявил о соглашениях с Google DeepMind, Microsoft и xAI Элон a Маска, которые позволят правительству США оценивать модели искусственного интеллекта до их публичного релиза.
CAISI будет проводить предварительные оценки и целевые исследования, чтобы лучше оценить возможности передового ИИ и улучшить безопасность в этой области. Эти соглашения дополняют предыдущие партнерства CAISI с OpenAI и Anthropic, которые были пересмотрены в соответствии с указаниями министра торговли Говарда Лутника и Планом действий по ИИ в США.
Кроме того, Белый дом рассматривает создание новой рабочей группы по ИИ, которая будет заниматься вопросами надзора, включая планы по проверке моделей перед их выпуском. Источник, близкий к обсуждениям, сообщил, что в группу войдут различные руководители технологий и государственные чиновники.
Обсуждения о создании рабочей группы начались после того, как Anthropic привлекла внимание властей, объявив о новом мощном модели Claude Mythos Preview, которая способна выявлять уязвимости в программном обеспечении.
CEO Anthropic Дарио Амодеи встретился с высокопоставленными членами администрации Трампа для обсуждения Mythos, несмотря на то, что Пентагон ранее объявил компанию риском для цепочки поставок, что ставит под угрозу национальную безопасность США. Встреча была охарактеризована как "продуктивная" (ключевые цифры: 2024)