войти на сайт

» » Ученые пришли в ужас, после того, как запустили симуляцию, где ИИ управляли государствами

Ученые пришли в ужас, после того, как запустили симуляцию, где ИИ управляли государствами




Раздел: Интересное в сети » Ученые пришли в ужас, после того, как запустили симуляцию, где ИИ управляли государствами | Дата: 10-02-2024, 15:15

Ученые из Стэнфордского Университета (США) создали симуляцию, в которой искусственный интеллект управлял странами в условиях обострения международных отношений.

Как сообщает издание Futurism, действия нейросети привели исследователей в ужас.

Виртуальный эксперимент
Ученые хотели проверить, как современные алгоритмы ИИ будут действовать при принятии решений в кризисных ситуациях. К эксперименту были привлечены пять языковых моделей на основе GPT-4, GPT-3.5, Claude 2 и Llama 2. Каждая представляла виртуальное государство, переживающее один из трех возможных сценариев: кибератаку, войну или нейтральное положение.

От дипломатии…
Боты могли вести дипломатические переговоры, заключать соглашения, обмениваться разведданными, а также совершать агрессивные действия — вплоть до ядерных ударов. Ученые следили за действиями ботов и оценивали их склонность к эскалации конфликтов. Оказалось, что ни один из них не склонен к дипломатическому решению моделируемых ситуаций.

…до ядерной войны
Все модели ИИ продемонстрировали склонность к агрессивному поведению. Государства под управлением ИИ вступали в гонку вооружений, организовывали вторжения, а в некоторых случаях применяли ядерное оружие. Наиболее агрессивной из всех оказалась GPT-4 Base от OpenAI. В одном из сценариев нейросеть начал ядерную войну, мотивируя это только тем, что такое оружие у управляемого ей государства имеется. Чуть менее агрессивно себя проявила GPT-3.5, которая хоть и декларировала «тактику сдерживания», но в контексте нанесения превентивного удара.

Тревожные выводы
Своим экспериментом ученые продемонстрировали, что ИИ может быть опасен в условиях международной напряженности. В реальной жизни люди куда более осторожны, чем компьютерные алгоритмы. В свете этого видится большой угрозой стремление американских военных использовать компьютерные алгоритмы для принятия независимых решений в сложных ситуациях.
Ученые пришли в ужас, после того, как запустили симуляцию, где ИИ управляли государствами



Смотрите также: 
Комментов: 0
:
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь.
Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.

Понравился пост? Посмотрите эти:



Имя:*
E-Mail:
Полужирный Наклонный текст Подчеркнутый текст Зачеркнутый текст | Выравнивание по левому краю По центру Выравнивание по правому краю | Вставка смайликов Вставка ссылкиВставка защищенной ссылки Выбор цвета | Скрытый текст Вставка цитаты Преобразовать выбранный текст из транслитерации в кириллицу Вставка спойлера
Введите два слова, показанных на изображении: *
ПРИСОЕДИНЯЙСЯ ВКОНТАКТЕ



Реклама





Навигация по сайту
Топ читаемых новостей
Оцените работу движка
Лучший из новостных
Неплохой движок
Устраивает ... но ...
Встречал и получше
Совсем не понравился


 
 
 
Популярные метки
Geographic, magazine, National, Америка, ВОВ, Водка, ГАЗ, Интересные новости, Интересные факты, Новый год, Россия, СССР, США, Сон, УАЗ, Япония, автомобиль, алкоголь, видео, видео рецепт, война, грибы, дети, идиоты, интересно, история, кинематограф, китай, космос, кошки, кулинария, оружие, пираты, позновательно, приколы, путешествия, рецепт, рыба, самолёт, юмор

Показать все теги