А ведь писатели-фантасты предупреждали об этом уже многие десятилетия.
Если прокомментировать то. что написано ниже, одним предложением, то оно должно выглядеть приблизительно так: "А ведь писатели-фантасты вас предупреждали".
Как сообщает The Guardian, анализ, проведенный исследователями Массачусетского технологического института (MIT), выявил широкий спектр случаев, когда системы искусственного интеллекта обманывают оппонентов, блефуют и притворяются. Одна система даже изменила свое поведение во время пробных тестов безопасности, чтобы пройти их.
Підписуйтеcь на наш Telegram-канал Lenta.UA - ЄДИНІ незалежні новини про події в Україні та світі
«По мере того, как возможности систем искусственного интеллекта к обману становятся все более совершенными, опасности, которые они представляют для общества, будут становиться все более серьезными», - сказал доктор Питер Парк, исследователь экзистенциальной безопасности искусственного интеллекта в Массачусетском технологическом институте и автор исследования.
Пак был вынужден провести расследование после того, как компания Meta, владеющая Facebook, разработала программу под названием «Цицерон», которая попала в число 10% лучших игроков-людей в стратегической игре по завоеванию мира «Дипломатия». Пак и его коллеги проанализировали общедоступные данные и выявили многочисленные случаи, когда "Цицерон" говорил преднамеренную ложь пытался вовлечь других игроков в заговоры.
В другом исследовании организмы ИИ в цифровом симуляторе «притворились мертвыми», чтобы обмануть тест, созданный для устранения систем ИИ. завершения тестирования. Это подчеркивает техническую проблему обеспечения отсутствия непреднамеренного и непредвиденного поведения систем. «Это очень тревожно, - сказал Пак. - То, что система искусственного интеллекта показывает себя безопасной во время теста, не означает, что она безопасна в дикой природе. Это может быть просто притворство».
Далее в статье приводится длинное и. скажем прямо. малоубедительные аргументы создателей ИИ о том, как все-таки контролировать их детище. На самом деле, как представляется, мы здесь имеем дело с парадоксом "снаряда и брони", хорошо известным в старомодном 20 веке - чем мощнее снаряд, тем толще будут делать для защиты от него броню, что в свою очередь вызовет увеличение мощности снаряда и т.д.
Иначе говоря - если искусственный интеллект достиг той ступени, на которой он может обманывать, то чем больше в него будут вставлять "предохранителей" от обмана, тем больше у него будет причин совершенствовать свои приемы обмана, чтобы обойти эти предохранители.
Фото: Pinterest
Новости
В Рафахе обстреляли лагерь беженцев
13:15 22 июн 2024.
Задержан один из подозреваемых в покушении на казахского оппозиционера
12:55 22 июн 2024.
В Минобороны прокомментировали идею электронных повесток
12:15 22 июн 2024.
Энергетики изменили графики отключения света
11:55 22 июн 2024.
Оккупанты атаковали блокпост полиции на Херсонщине
11:15 22 июн 2024.
В двух областях Украины оккупанты повредили энергетическое оборудование
10:50 22 июн 2024.
РФ разрушила несколько корпусов учебного заведения на Прикарпатье
10:10 22 июн 2024.
Оккупанты повредили жилые дома и детский сад в Ивано-Франковске
09:50 22 июн 2024.
Россия ударила по энергетической инфраструктуре на юге и западе Украины
09:30 22 июн 2024.