Греф: Сбербанк потерял миллиарды из-за ошибок искусственного интеллекта
Ранее президент банка заявлял, что внедрение искусственного интеллекта больше всего повлияло на сотрудников среднего звена
Герман Греф. Фото: Денис Тырин/ТАСС
Обновлено в 15:16
Сбербанк потерял миллиарды рублей из-за ошибок искусственного интеллекта. Такое заявление глава банка Герман Греф сделал на «Уроке цифры» для молодых программистов.
Герман Греф
президент Сбербанка«Очень часто бывают ошибки. Если говорить о рисках, искусственный интеллект принимает решения, как правило, в очень больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к большим последствиям. В нашей практике мы теряли на этом большие деньги. Из-за того, что машина совершала маленькую ошибку, на больших объемах мы теряли миллиарды рублей. Потом, когда эта ошибка выявлялась, мы учились на ней, вставляли всевозможные фильтры, чтобы калибровать, как мы говорим, верифицировать или валидировать систему искусственного интеллекта. Здесь есть очень большое поле для творчества».
О возможных ошибках рассуждает сооснователь «Битрикс 24» Сергей Рыжиков:
Сергей Рыжиков
сооснователь «Битрикс 24»«Мы склонны немного преувеличивать возможности искусственного интеллекта. На самом деле, это программные системы учатся на тех ситуациях, которые уже происходили. Как пример: искусственному интеллекту дают случаи кредитования за предыдущие десять лет, на этой основе он учится предсказывать, можно ли выдавать кредит. Если встречается непредвиденная ситуация, то понятно, что искусственный интеллект не умеет думать сам, в этой ситуации он допускает ошибки. Тем не менее, польза от искусственного интеллекта большая, но важно понимать особенности работы инструментов, их неспособность решать новые задачи. Пожалуй, единственное, что должны сделать разработчики: научиться подключать человека в ситуациях, которые вообще возникли впервые».
Пересмотрит ли Герман Греф свои взгляды после миллиардных убытков по вине ИИ? Об этом рассуждает основатель и гендиректор Qrator Labs Александр Лямин:
— Сбербанк — не единственная компания, потерявшая деньги на автоматизированных торгах. Давайте вспомним 2008 год и череду разорений компаний, занимающихся автоматизированным трейдингом, которые обучили свои модели на растущем рынке, а на падающем они оказались непригодны. В любом случае модель настолько хороша, насколько хорош ее изготовитель.
— Изменит ли Сбербанк свою политику после убытков?
— Думаю, должен быть поднят вопрос по квалификации специалистов, которые разрабатывали эту модель. Прежде всего, урок по кадровой политике для самого Сбербанка.
Ранее Герман Греф заявлял, что внедрение искусственного интеллекта в Сбербанке больше всего повлияло на сотрудников среднего звена. С развитием высоких технологий сократили около 70% менеджеров.
