Как дать ИИ капельку сознания
В 1998 году инженер из лаборатории компьютерных проблем Sony в Японии заснял потерявшегося робота, тревожно движущегося по замку. Перед роботом стояли две задачи: избегать препятствий и находить предметы в замкнутом пространстве. Он смог это сделать благодаря своей способности изучать контуры вольера и расположение искомых объектов.
Но всякий раз, когда робот сталкивался с препятствием, которого он не ожидал, происходило кое-что интересное: его когнитивные процессы на мгновение становились хаотическими. Робот боролся с новыми неожиданными данными, которые не соответствовали его предсказаниям о вольере. Исследователи, проводившие эксперимент, утверждали, что «самосознание» робота возникло в этот момент бессвязности. Вместо того, чтобы действовать как обычно, ему пришлось, так сказать, обратить свое внимание внутрь себя, чтобы решить, как разрешить конфликт.
Эта идея о самосознании — о том, что оно самоутверждается в определенных контекстах, например, когда мы сталкиваемся с информацией, которая заставляет нас переоценить нашу среду, а затем принять исполнительное решение о том, что делать дальше, — старая, относящаяся к работа немецкого философа Мартина Хайдеггера в начале 20 века. Теперь А. Исследователи все больше подвержены влиянию нейробиологии и изучают, могут ли нейронные сети достичь тех же более высоких уровней познания, что и в человеческом мозге.
В отличие от сегодняшних «глупых» роботов, которые не имеют никакого реального понимания того, где они находятся и что они испытывают, есть надежда, что уровень осведомленности, аналогичный сознанию людей, может сделать будущие ИИ гораздо более умными. Например, они могут сами научиться выбирать данные и сосредотачиваться на них, чтобы приобретать новые навыки, которые они усваивают и с легкостью продолжают выполнять. Но наделение машин силой мыслить, также несет с собой риски и этическую неопределенность.
Дзюн Тани, доктор философии, соавтор эксперимента 1998 года, а ныне профессор отдела исследований когнитивной нейроробототехники Окинавского технологического института, говорит OneZero, чтобы описать то, что его роботы испытывают как «сознание», это слово использовано как метафора.
То есть боты на самом деле не мыслят так, как мы могли бы распознать, они просто демонстрируют структурно похожее поведение. И все же его очаровывают параллели между разумом машин и разумом человека. Настолько, что он попытался смоделировать нейронные реакции, связанные с аутизмом, с помощью робота.
Исследования сознания все еще считаются табу в ИИ
Эксперт Йошуа Бенжио, основатель Mila, Квебекского института искусственного интеллекта, также очарован «сознанием» в искусственном интеллекте. Он использует аналогию с вождением, чтобы описать переключение между сознательными и бессознательными действиями.
«Все начинается с сознательного контроля, когда вы учитесь водить машину, а затем, после некоторой практики, большая часть работы выполняется на бессознательном уровне, и вы можете разговаривать во время вождения», — объясняет он.
Этот более высокий, внимательный уровень обработки не всегда необходим — или даже желателен, — но кажется критически важным для людей, чтобы научиться осваивать новые навыки или адаптироваться к неожиданным вызовам. А интеллектуальные системы и роботы потенциально могли бы избежать глупости, которая в настоящее время преследует их, если бы только они могли получить способность расставлять приоритеты, фокусировать внимание и решать проблемы.
Частично вдохновленные тем, что, по нашему мнению, мы знаем о человеческом сознании, Бенжио и его коллеги несколько лет работали над принципом «механизмов внимания» для ИИ. Эти системы могут узнать, какие данные имеют отношение к делу и, следовательно, на чем сосредоточиться, чтобы выполнить поставленную задачу.
«Исследования сознания, — добавляет Бенжио, — все еще считаются табу в ИИ». По его словам, поскольку сознание — такое сложное явление для понимания даже для нейробиологов, до сих пор его в основном обсуждали только философы.
Знания о человеческом мозге и человеческом опыте сознания становятся все более актуальными для поиска более продвинутых систем и уже привели к некоторым увлекательным пересечениям. Возьмем, к примеру, работу Ньютона Ховарда, доктора философии, профессора вычислительной нейробиологии и нейрохирургии Оксфордского университета. Он и его коллеги разработали операционную систему, вдохновленную человеческим мозгом.
«Когда он развернут, то как ребенок, он очень хочет учиться». Вместо того, чтобы полагаться на один подход к решению проблем, он может выбрать лучший метод обработки данных для ваших задач.
Вместо того, чтобы полагаться на один подход к решению проблем, он может выбрать лучший метод обработки данных для рассматриваемой задачи — что-то вроде того, как разные части мозга обрабатывают разные виды информации.
Он также экспериментирует с системой, которая может собирать данные от различных датчиков и источников для автоматического накопления знаний по различным темам. «Когда он развернут, это как ребенок», — говорит он. «Очень хочет учиться».
Вся эта работа, в некоторой степени вдохновленная тем, что мы знаем о человеческом мозге, может раздвинуть границы того, что ИИ. можно выполнить сегодня. И все же некоторые утверждают, что это может не приблизить нас к действительно сознательному машинному разуму, который имеет чувство собственного «я», отстраненную «душу», населяющую его тело (или чипсет), со свободной волей к загрузке.
Философ Дэниел Деннет, который провел большую часть своей жизни в размышлениях о том, что такое сознание, а что нет, утверждает, что мы не увидим, как машины развивают этот уровень сознания в ближайшее время — даже в течение 50 лет. Он и другие указали, что ИИ, которые мы можем построить сегодня, похоже, не имеют никакого сходства с рефлексивным мышлением или осознанием, которые, как мы считаем, имеют решающее значение для сознания.
Тем не менее, именно в поисках системы, обладающей этими атрибутами, произошел глубокий переход между нейробиологией и искусственным интеллектом.
Сознание остается одной из великих загадок науки.
Никто не знает, с какой именно активностью мозга она связана, хотя ученые постепенно выясняют, что определенные нейронные связи, похоже, связаны с ней. Некоторые исследователи обнаружили колебания активности мозга, которые, по-видимому, связаны с определенными состояниями сознания - сигнатурами, если хотите, бодрствования.
Реплицируя такую деятельность в машине, мы, возможно, сможем дать ей возможность осознанно мыслить, — предполагает Камило Мигель Синьорелли, научный сотрудник в области компьютерных наук в Оксфордском университете.
Он упоминает «влажный» мозг робота в Ex Machina, гелевом контейнере нейронной активности. «Мне пришлось уйти от схем, мне нужно было что-то, что могло бы упорядочено и перестроено на молекулярном уровне», - объясняет персонаж Оскара Айзека, который создал сознательного киборга.
«Риск по ошибке вызвать страдание в сознательной машине - это то, чего нам нужно избегать».
«Это была бы идеальная система для эксперимента», — говорит Синьорелли, поскольку жидкий, очень пластичный мозг может быть настроен на переживание формирующих сознание нейронных колебаний — сродни волнам активности, которые мы видим в человеческом мозге.
Это, надо сказать, весьма умозрительно. И все же возникает вопрос, может ли совершенно другое оборудование быть необходимым для того, чтобы сознание (как мы его ощущаем) возникло в машине. Синьорелли говорит, что даже если мы однажды успешно подтвердим присутствие сознания в компьютере, у нас, вероятно, не будет реальной власти над ним.
«Возможно, мы получим другое животное, человеческое сознание, но мы не сможем контролировать это сознание», — говорит он.
Как некоторые утверждали, это сделать такой ИИ это опасно и непредсказуемо. Но сознательная машина, которая окажется безвредной, все равно может вызвать этические проблемы. Что, если он почувствовал боль, отчаяние или ужасное замешательство?
«Риск ошибочного создания страдания в сознательной машине - это то, чего нам нужно избегать», — говорит Андреа Луппи, аспирант Кембриджского университета, изучающая деятельность мозга и сознание человека.
Возможно, пройдет много времени, прежде чем нам действительно придется решать такие проблемы. Но А. Исследования все больше опираются на нейробиологию и идеи о сознании в поисках более мощных систем. Это сейчас происходит. Поможет ли это нам в будущем, как и возникновение самого сознания, предсказать невероятно сложно.
Сегодня технологии ИИ применяются очень широко, это в первую очередь интернет вещей, распознавание речи, текстов, изображений, интеллектуальные системы компьютерной и информационной безопасности до веб-разработки и голосового помощника в вашем сматрфоне. Но никто не станет спорить с тем, что разработки на основе ИИ помогают решить проблемы как сегодняшнего дня, так и подготовиться к будущему.