Способ, которым искусственный интеллект сможет уничтожить человечество, назвали ученые

Искусственный интеллект способен уничтожить человечество при определенном развитии событий в технологическом секторе ведущих стран мира. Об этом пишет газета The New York Times.

«Сегодняшние системы и близко не представляют экзистенциальный риск. Но через один, два, пять лет? Нет уверенности, что мы осознаем момент, когда будем на грани катастрофы», – отметил профессор, научный сотрудник Монреальского университета Йошуа Бенжио.

Читайте также: Самый страшный для человечества год назвали ученые из Гарварда

По версии NYT, компании могут предоставить системам с ИИ все больше и больше автономии и подключать их к жизненно важной инфраструктуре, включая электрические сети, фондовые рынки и вооружение. Именно решение перейти эту черту и может вызвать проблемы, считают в издании.

«В какой-то момент станет ясно, что большая машина, управляющая обществом и экономикой, на самом деле не находится под контролем человека и не может быть отключена, как не может быть отключен S&P 500», – рассказал космолог из Калифорнийского университета в Санта-Крузе Энтони Агирре.

В NYT указали на то, что пока системы с ИИ склонны «застревать в бесконечных петлях» из повторяющихся данных, но со временем эти ограничения могут быть устранены, если разработчики доработают эти программы.

«Поскольку ИИ-системы учатся на большем количестве данных, чем способны понять даже их создатели, эти системы уже демонстрируют неожиданное поведение. Некоторые эксперты опасаются, что по мере того, как исследователи делают эти системы более мощными, обучая их на все больших объемах данных, они могут приобрести больше вредных и даже опасных привычек», – заключил автор.

Фото: Gamerwall.pro

Читайте также: Суперкомпьютер спрогнозировал сроки наступления конца света