
А ведь писатели-фантасты предупреждали об этом уже многие десятилетия.
Если прокомментировать то. что написано ниже, одним предложением, то оно должно выглядеть приблизительно так: "А ведь писатели-фантасты вас предупреждали".
Как сообщает The Guardian, анализ, проведенный исследователями Массачусетского технологического института (MIT), выявил широкий спектр случаев, когда системы искусственного интеллекта обманывают оппонентов, блефуют и притворяются. Одна система даже изменила свое поведение во время пробных тестов безопасности, чтобы пройти их.
Підписуйтеcь на наш Telegram-канал Lenta.UA - ЄДИНІ незалежні новини про події в Україні та світі
«По мере того, как возможности систем искусственного интеллекта к обману становятся все более совершенными, опасности, которые они представляют для общества, будут становиться все более серьезными», - сказал доктор Питер Парк, исследователь экзистенциальной безопасности искусственного интеллекта в Массачусетском технологическом институте и автор исследования.
Пак был вынужден провести расследование после того, как компания Meta, владеющая Facebook, разработала программу под названием «Цицерон», которая попала в число 10% лучших игроков-людей в стратегической игре по завоеванию мира «Дипломатия». Пак и его коллеги проанализировали общедоступные данные и выявили многочисленные случаи, когда "Цицерон" говорил преднамеренную ложь пытался вовлечь других игроков в заговоры.
В другом исследовании организмы ИИ в цифровом симуляторе «притворились мертвыми», чтобы обмануть тест, созданный для устранения систем ИИ. завершения тестирования. Это подчеркивает техническую проблему обеспечения отсутствия непреднамеренного и непредвиденного поведения систем. «Это очень тревожно, - сказал Пак. - То, что система искусственного интеллекта показывает себя безопасной во время теста, не означает, что она безопасна в дикой природе. Это может быть просто притворство».
Далее в статье приводится длинное и. скажем прямо. малоубедительные аргументы создателей ИИ о том, как все-таки контролировать их детище. На самом деле, как представляется, мы здесь имеем дело с парадоксом "снаряда и брони", хорошо известным в старомодном 20 веке - чем мощнее снаряд, тем толще будут делать для защиты от него броню, что в свою очередь вызовет увеличение мощности снаряда и т.д.
Иначе говоря - если искусственный интеллект достиг той ступени, на которой он может обманывать, то чем больше в него будут вставлять "предохранителей" от обмана, тем больше у него будет причин совершенствовать свои приемы обмана, чтобы обойти эти предохранители.
Фото: Pinterest
Новости
В киевском Доме учителя нашли аутентичные элементы
04:40 02 сен 2025.
Схему хищения миллионов гривен выявили в «Киевводоканале»
02:20 02 сен 2025.
США могут ввести новые санкции против РФ
23:15 01 сен 2025.
Министр обороны Германии раскритиковал заявление председателя Еврокомиссии о гарантиях военной безопасности Украины.
22:30 01 сен 2025.
Ким Чен Ын отправился в Китай на личном бронепоезде
22:15 01 сен 2025.
В Чехии будут сокращены государственные пенсии
21:45 01 сен 2025.
Эммануэль Макрон обсудил с генсеком НАТО встречу "коалиции решительных"
21:30 01 сен 2025.
Владимир Зеленский переговорил с президентом МОК
20:45 01 сен 2025.
Премьер Словакии встретится с Путиным и Зеленским
20:30 01 сен 2025.