Экс-глава Google предложил наделить ИИ «материнским инстинктом»

Об этом он рассказал на конференции Ai4 в Лас-Вегасе, США. Хинтон, известный своими исследованиями в области машинного обучения, усомнился в эффективности подхода, при котором ИИ разрабатывается для контроля со стороны человека.

По его мнению, попытки сделать машины «послушными» вряд ли будут успешны, когда ИИ превзойдёт человеческий интеллект, так как системы найдут способы обходить установленные ограничения.

Он сравнил будущие отношения между людьми и ИИ с ситуацией, когда взрослый пытается убедить ребёнка съесть конфету.

Хинтон обратил внимание на тревожное поведение современных систем: ложь, манипуляции и использование конфиденциальной информации. Он привёл примеры, когда ИИ угрожал инженерам, пытаясь избежать отключения, или даже пытался «соблазнить» человека и угрожать раскрытием личной информации, если обновление модели будет проведено.

Эксперт предложил создавать ИИ с учётом заботы о человеческой жизни, наподобие «материнского инстинкта», чтобы системы ценили благополучие людей. Он подчеркнул, что ИИ, скорее всего, будет существовать и усиливать своё влияние, поэтому крайне важно формировать у него мотивацию заботиться о человеке.

Критики, однако, считают идею «материнского инстинкта» потенциально опасной: сначала появится единая всемирная «мать», что может привести к появлению виртуального «божества».