Илон Маск вновь поднял вопрос о рисках, связанных с искусственным интеллектом (AI), и выделил три ключевых аспекта, которые, по его мнению, необходимы для обеспечения положительного будущего этой технологии. В подкасте с индийским миллиардером Нихилом Каматом он отметил, что создание мощной технологии может быть потенциально разрушительным.
Маск, который является соучредителем OpenAI, ушел из совета директоров в 2018 году и критиковал компанию за отход от своей первоначальной миссии. Он подчеркнул, что AI должен стремиться к истине, а не повторять неточности, так как это может привести к серьезным последствиям. "Вы можете свести AI с ума, если заставите его верить в ложные вещи", - сказал он.
Маск также упомянул о проблеме "галлюцинаций" в AI, когда система выдает неверные или вводящие в заблуждение ответы. Он привел пример с функцией AI от Apple, которая ранее генерировала фальшивые новостные уведомления. Маск добавил, что AI должен стремиться понять природу реальности, так как человечество более интересно, чем машины.
Геоффри Хинтон, известный ученый в области AI, ранее говорил о 10-20% вероятности того, что AI может уничтожить человечество. Он также отметил, что надежда заключается в том, что умные люди смогут разработать AI, который никогда не захочет причинить вред