Основатель космической компании SpaceX Илон Маск, соучредитель корпорации Apple Стив Возняк и еще тысяча других экспертов и ученых с мировым именем подписали открытое письмо с призывом на полгода заморозить исследования искусственного интеллекта и нейросетей, более мощных, чем недавно презентованная GPT-4.
«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования и признано ведущими лабораториями искусственного интеллекта <…> продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами. К сожалению, такого уровня планирования и управления не существует, даже несмотря на то, что в последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять. прогнозировать или надежно контролировать», - говорится в тексте обращения.
Авторы петиции также отметили, что продвинутые нейросети уже могут конкурировать с людьми за выполнение общих задач.
«И мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе управляющие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас устаревшими и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми» - полагают авторы письма.
