Раскрытие алгоритмов ИИ может увеличить число манипуляций поисковой выдачей

Раскрытие рекомендательных алгоритмов интернет-сервисами чревато злоупотреблениями со стороны недобросовестных поставщиков товаров и услуг. Они могут использовать полученную информацию для того, чтобы искусственно накручивать рейтинги продуктов и манипулировать предпочтениями пользователей. О таких рисках говорится в «Этических рекомендациях по применению алгоритмов ИИ в работе цифровых сервисов». Документ подготовлен Альянсом в сфере искусственного интеллекта, в который входят «Яндекс», VK, «Сбер», «Газпром нефть», РФПИ, «Самолет», «Уралхим», «Русагро», «Сибур», «Северсталь» и другие крупные компании. Разработку рекомендаций подтвердили представители двух компаний – участниц альянса.

Рекомендательные алгоритмы (в том числе так называемые колдунщики поисковых систем) позволяют онлайн-сервису изменять список и порядок данных, выдаваемых пользователю в ответ на его запрос.