Дмитрий Медведев рассказал о «тёмной стороне» искусственного интеллекта
Дмитрий Медведев рассказал о тёмной стороне искусственного интеллекта
Зампред Совбеза РФ Дмитрий Медведев предупредил, что по мере самообучения искусственный интеллект может перестать следовать принципу не навреди человеку. Об этом он написал в статье Новые технологии: лестница в небо или дорога в ад для журнала Эксперт, передаёт РИА Новости.
По словам Медведева, ИИ может быть непредсказуемым и трудноконтролируемым, а в перспективе допускать сбои в работе критической инфраструктуры. Он также отметил, что суперинтеллект не обязан руководствоваться правилами робототехники Айзека Азимова, поскольку может быть обязан происхождением не человеку, а самому себе.
Медведев добавил, что обсуждение сценариев злого ИИ ведут не только футурологи: такие риски рассматривают политики и крупный бизнес.
При этом, по его оценке, к высокорисковым могут относиться не только опасные производства, но и отрасли, вроде агротехнологий и пищевой промышленности