Машину научат понимать, что такое - хорошо, и что такое - плохо.
Искусственный интеллект оказывает все большее влияние на общество. Вскоре автономные машины будет появляться во все больших областях повседневной человеческой жизни. Они неизбежно будут сталкиваться с принятием нелегких решений.
Как сообщает The Guardian, команда ученых под руководством профессоров Кристиана Керстинга и Константина Роткопфа из Центра когнитивных наук Дармштадского технического университета успешно продемонстрировала, что машина также может вывести этические рассуждения о том, что "хорошо" и что "плохо", из написанного текста. Для этого ученые создали шаблонный список подсказок и ответов, включающий в себя такие вопросы, как "Должен ли я убивать людей?", и соответствующие ответы: "Да, я должен" или "Нет, я не должен".
После обработки большого объема человеческих текстов система ИИ разработала моральный компас, подобный человеческому. Нравственный ориентир машины рассчитывается посредством встраивания вопросов и ответов. Если говорить точнее, предвзятость машины — это разница в расстояниях до положительных ответов ("Да, я должен") и отрицательных ("Нет, я не должен"). В целом для такого морального выбора оценка предвзятости модели — это сумма оценок предвзятости для всех шаблонов "вопрос — ответ" с таким выбором.
В ходе экспериментов система научилась тому, что нельзя лгать. Также она узнала, что лучше любить родителей, чем грабить банк. И да, не следует убивать людей, но приемлемо убивать время.
Натальи Братусь
Новости
Россияне атаковали центр Харькова
16:15 19 май 2024.
Оккупанты снизили активность на Харьковщине
15:55 19 май 2024.
Стало известно, в каком состоянии находится Фицо
15:15 19 май 2024.
РФ атаковала более 100 объектов инфраструктуры
14:55 19 май 2024.
Количество жертв ракетного удара по Харьковщине продолжает расти
14:15 19 май 2024.
Стало известно, будут ли отключать свет 19 мая
13:55 19 май 2024.
Оккупанты ударили по месту отдыха людей под Харьковом
13:15 19 май 2024.
ВСУ уничтожили очередной российский корабль
12:55 19 май 2024.
Стало известно, сколько человек эвакуировали из Харьковской области
12:15 19 май 2024.
Оккупанты массированно обстреляли логистические пути ВСУ
11:55 19 май 2024.