Фактически они прямо заявляют, что существуют потенциальные риски для общества и человечества! Они не уточняют, в чем заключаются эти опасности, но они уже неоднократно упоминались ранее и даже касались "независимости" этих систем от человеческих хозяев и того, что, контролируя глобальные киберсистемы, они могут вызвать политические и экономические катастрофы.
Вспомним, что и американский, и российский ядерные арсеналы контролируются компьютерами, и нет такого, который не был бы уязвим для ИИ. Типичным примером является центральный сюжет фильмов о Терминаторе, где искусственный интеллект Скайнет взял под контроль ядерные арсеналы и активировал их, уничтожив человечество, которое он рассматривал, как своего рода... болезнь.
Письмо, выпущенное некоммерческим институтом Future of Life Institute и подписанное более, чем 1000 человек, включая Маска, соучредителя Apple Стива Возняка и генерального директора Stability AI Эмада Мостаке, призывает остановить разработку передового ИИ до тех пор, пока не будут разработаны, внедрены и независимо рецензированы общие протоколы безопасности для таких приложений. "Мощные системы ИИ должны внедряться только тогда, когда мы уверены, что их результаты будут положительными, а риски - управляемыми", - говорится в письме.
В письме также подробно описываются потенциальные риски для общества и цивилизации, связанные с появлением конкурирующих с человеком систем ИИ, с точки зрения экономических и политических потрясений. В письме содержится призыв к разработчикам сотрудничать с политиками для создания нормативной базы.
Письмо появилось на следующий день после того, как Европол выразил этическую и юридическую обеспокоенность по поводу передовых приложений ИИ, таких как ChatGPT, предупредив о возможном злонамеренном использовании системы в попытках фишинга, дезинформации и киберпреступности.
Передовые приложения и функции ИИ демонстрируют резкий рост с конца 2022 года, когда OpenAI, при поддержке Microsoft, представила свою платформу ChatGPT, что побудило конкурирующие компании запустить аналогичные приложения или интегрировать подобные функции в свои платформы.
