Должны ли мы развивать нечеловеческие умы?

Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли в открытом письме, ссылаясь на потенциальные риски для общества, призывают взять шестимесячную паузу в разработке систем, более мощных, чем недавно запущенный OpenAI GPT-4.

Ранее в этом месяце OpenAI при поддержке Microsoft представила четвертую итерацию своей программы AI GPT (Generative Pre-trained Transformer), которая поразила пользователей естественной беседой, сочинением песен и резюмированием длинных документов.

«Мощные системы ИИ должны разрабатываться только тогда, когда мы уверены, что их эффект будет положительным, а риски – управляемыми», – говорится в письме, опубликованном Институтом будущего жизни (Future of Life Institute), который, согласно Реестру прозрачности ЕС, является некоммерческой организацией, в основном финансируемой фондом Маска, а также лондонской группой Founders Pledge и фондом Silicon Valley Community Foundation.

«Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой?… Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас?» – спрашивается в письме, где говорится, что «такие решения не должны быть делегированы неизбираемым лидерам технологических компаний».

Письмо подписали более 1 000 человек, включая Маска. Сэм Альтман, исполнительный директор OpenAI, а также Сундар Пичаи и Сатья Наделла, генеральные директора Alphabet и Microsoft письмо не подписали.

Среди подписавших письмо – генеральный директор Stability AI Эмад Мостак, исследователи из принадлежащей Alphabet компании DeepMind, а также выдающиеся специалисты в области ИИ Йошуа Бенгио, которого часто называют одним из «крестных отцов ИИ», и Стюарт Рассел, один из первых исследователей в этой области.

Американские законодатели также задают вопросы о влиянии ChatGPT на национальную безопасность и образование. В понедельник полиция ЕС Европол предупредила о потенциальном использовании системы в попытках фишинга, дезинформации и киберпреступности.