Работа над ошибками
Можно ли защитить бизнес и общество от ущерба, нанесенного искусственным интеллектом
Ошибки ИИ уже приводили к скандалам, многомиллиардным потерям и даже, увы, трагедиям. Наверное, самой известной историей в нашей стране стало обвинение ученого-гидролога из Ярославля Александра Цветкова, которого искусственный интеллект (ИИ) принял за возможного убийцу четырех женщин в Москве в 2002 г. 16 февраля полиция задержала Цветкова в аэропорту «Домодедово», сославшись на то, что нейросеть обнаружила совпадение его внешности с фотороботом на 55%. Если бы не личное вмешательство президента России, ученый, возможно, так и остался бы под стражей, несмотря на железное алиби: когда совершались те убийства, он находился в научной экспедиции далеко от мест преступления.
Самым же громким случаем бизнес-ошибок в России с участием ИИ стали убытки «Сбера», о которых рассказал Герман Греф. По его признанию, «маленькая ошибка, закравшаяся в алгоритм» привела к потерям в миллиарды рублей.