В недавнем посте в X Сэм Альтман изложил необходимость структурированного подхода к безопасности ИИ, выступая за последовательные федеральные нормы, чтобы предотвратить безрассудные достижения в технологии ИИ. Он выделил два значительных риска: потенциальную утрату контроля над ИИ и концентрацию власти в руках одной сущности.
Это последовало за призывом Дарио Амодеи из Anthropic замедлить темпы разработки ИИ-компаниями, предложив трехступенчатый план, который включает внешние оценки и установление общих стандартов безопасности. Альтман поддержал эти идеи, но уточнил, что 'замедление' не означает остановку прогресса.
Срочность этих обсуждений подчеркивается растущими опасениями по поводу безопасности в отрасли, особенно после того, как один из исследователей в Anthropic уволился из-за предполагаемой халатности в отношении рисков ИИ. Пока законодатели в Вашингтоне спешат решить эти вопросы, фон предстоящих IPO как Anthropic, так и OpenAI добавляет дополнительную сложность к ситуации.
Рынок негативно отреагировал на эти события, отражая опасения инвесторов по поводу будущего регуляторного ландшафта и его влияния на сектор ИИ.