Шах и мат: как искусственный интеллект счёл высказывания любителей настольной игры расистскими

Учёные из Университета Карнеги — Меллона (США) выяснили, что разговоры любителей шахмат в ряде случаев воспринимаются искусственным интеллектом как расистские высказывания. Об этом сообщила пресс-служба вуза.

Так, научный сотрудник Института языковых технологий этого университета Ашикур Худабухш и его коллега инженер-исследователь Рупак Саркар изучили 680 тыс. комментариев пользователей, оставленных на пяти популярных YouTube-каналах о шахматах. Они проанализировали эти высказывания с помощью двух современных классификаторов речи. Программное обеспечение, в котором применяются методы искусственного интеллекта (ИИ), провело идентификацию выражений, присущих так называемому языку ненависти — оскорбительным, нетолерантным высказываниям, способствующим разжиганию межрасовой вражды.

Также по теме

«Вопиющая дискриминация»: не попавшая на турнир в Турции армянская шахматистка ждёт разъяснений от команды Азербайджана

Армянская шахматистка Мария Геворгян намерена выяснить причины, по которым сборная Азербайджана направила организаторам турнира в...

В итоге программы ИИ обнаружили множество «оскорбительных» комментариев, однако при проверке людьми 1 тыс. случайно выбранных сообщений такого типа выяснилось, что 82% из них были рядовыми разговорами шахматистов про белые и чёрные фигуры, нападение друг на друга соперничающих сторон и методы защиты.

Игра в шахматы не впервые оказывается в центре внимания западной общественности в контексте проблемы расизма.

Так, в середине прошлого года, на пике активности движения за права афроамериканцев Black Lives Matter в США, разгорелся скандал, когда гроссмейстера Джона Адамса журналисты австралийского радио безуспешно попытались заставить отыскать в шахматах признаки расизма.

В то же время YouTube-канал популярного шахматного стримера Антонио Радича после интервью с американским гроссмейстером японского происхождения Хикару Накамурой, где активно обсуждалось противостояние чёрных и белых фигур, был заблокирован без объяснения причин.

«Мы не знаем, какие инструменты использует YouTube, однако если для выявления расистских высказываний они полагаются на искусственный интеллект, то такое возможно», — отметил автор исследования Ашикур Худабухш, комментируя этот инцидент.

По его мнению, если подобное произошло с довольно известной личностью вроде Антонио Радича и получило огласку, то от таких ситуаций не застрахованы и рядовые пользователи, при этом для широкой общественности «цензура», скорее всего, останется незамеченной. 

Кроме того, учёные описали похожий случай, связанный с несовершенством искусственного интеллекта. Исследователям было необходимо «научить» тренировочную программу дифференцировать собак согласно их темпераменту. Так, на серии тестовых снимков активные животные были часто запечатлены в движении на фоне зелёной листвы и травы. Однако искусственный интеллект регулярно ошибался, учитывая окружающую обстановку как критерий для оценки характера, и отмечал на фотографиях как активных даже инертных собак, которые просто лежали на газоне.