Дмитрий Медведев рассказал о «тёмной стороне» искусственного интеллекта
Зампред Совбеза РФ Дмитрий Медведев предупредил, что по мере самообучения искусственный интеллект может перестать следовать принципу «не навреди человеку». Об этом он написал в статье «Новые технологии: лестница в небо или дорога в ад» для журнала «Эксперт», передаёт «РИА Новости».
По словам Медведева, ИИ может быть непредсказуемым и трудноконтролируемым, а в перспективе — допускать сбои в работе критической инфраструктуры. Он также отметил, что «суперинтеллект» не обязан руководствоваться правилами робототехники Айзека Азимова, поскольку может быть «обязан происхождением» не человеку, а самому себе.
Медведев добавил, что обсуждение сценариев «злого ИИ» ведут не только футурологи: такие риски рассматривают политики и крупный бизнес.
При этом, по его оценке, к высокорисковым могут относиться не только опасные производства, но и отрасли, вроде агротехнологий и пищевой промышленности
