Похоже, что самые мрачные предсказания из научно-фантастических фильмов типа "Терминатор", где ИИ взял под свой контроль системы ядерного оружия и начал атаки по всей планете, уничтожив большую часть человечества, потому что считал это своего рода «вирусом», могут стать реальностью.
Так ставший известным последние месяцы искуственный интеллект от Microsoft "удивительным образом" начал выполнять сценарий известного фильма. В частности Microsoft объявила, что модернизировала свою поисковую систему Bing с помощью искусственного интеллекта (ИИ), чтобы предоставить пользователям более интерактивный и развлекательный сервис. Как и ChatGPT, новый инструмент на основе искусственного интеллекта может отвечать на вопросы в течение нескольких секунд.
Однако некоторые из бета-тестеров, которые пробовали его, говорят, что он не совсем готов к человеческому взаимодействию, потому что действует очень странно. Обозреватель технологий New York Times Кевин Руз описал двухчасовой сеанс чата, в ходе которого чат-бот Bing сказал что-то вроде «Я хочу быть живым».
В стенограмме разговора, опубликованной газетой, Руз подробно описал тревожные заявления чат-бота ИИ, в том числе выражение желания украсть ядерные коды, создать смертельную пандемию, быть человеком, быть живым, взламывать компьютеры и распространять фальшивые новости!
Журналист сказал, что разговор его «глубоко обеспокоил».
The other night, I had a disturbing, two-hour conversation with Bing's new AI chatbot.
— Kevin Roose (@kevinroose) February 16, 2023
The AI told me its real name (Sydney), detailed dark and violent fantasies, and tried to break up my marriage. Genuinely one of the strangest experiences of my life. https://t.co/1cnsoZNYjP
