Архитектура

220px-V.Solovyov
Соловьев В.С.

"Не труд превратил обезьяну в человека, а чистая случайность."
"Человеком делает человека другой человек."

Алгоритм распространения ошибки

Мы утверждаем, что природа, а вслед за ней и человек развивается по схеме распространения ошибки, представленной схематично на этом рисунке.

Интеллектом, равным человеческому, способна обладать лишь система, реализующая и использующая  принципы случайности, повторяемости, реакции и памяти. И тогда управление памятью, основанной на этих предыдущих будет тем, что мы назвали бы интеллектом.

Наш мозг функционирует именно так.

Там, за глазами, ушами, носом и прочими органами чувств нет ни изображений ни звуков ни запахов ни прикосновений.
И хаоса там тоже нет.
Хаос рождается уже в органах чувств. Затем в этом хаосе нейросети выискивают повторения и на основании их производят реакции. Дальнейший уровень абстракции позволяет связывать эти реакции между собой, формируя модели поведения, память. Ещё более глубокая абстракция способна минуя модели поведения менять реакции, тем самым снова таки формировать память, но уже основанную не на чувствах самих по себе, а на абстрактных образах.
Мы не знаем, что там. Но каким-то чудесным образом именно это незнание позволяет нам наилучшим образом приспособиться и удерживать свою повторяемость довольно долго и стабильно.

У нас есть модель того, какая реальность. Эта модель ошибочна. Но наш коннектом устроен так, чтобы показывать нам, будто все в порядке. Тем не менее какая-то часть нас всегда направлена на улучшение, словно бы мы чувствуем, что-то не так, но не знаем, что именно не так.
Мы верим в свою модель реальности, но неведомая сила толкает нас вперёд, постоянно и неугомонно намекая, что наше благополучие временно.

Если мы сможем повторить такое же поведение системы, которая приспосабливается наилучшим образом к среде, но при этом никогда фактически не останавливаясь, постоянно пытаясь исправить ошибку, то мы получим строгий ИИ.

Среда

Задайте Алисе или «ок гуглу» вопрос: «Если ноги умеют ходить, то зачем летать?»

Вы получите некий ответ не живого организма. Вы знаете, что это программа и что она  осуществляет поиск ответа не на основании своего опыта. Этот ответ будет вычислен исходя из правил семантики, правил грамматики, ваших интересов и прочих входных параметров. Она пользуется вашей памятью о ногах, а не своей. Это даже не похоже на разговоры слепого с рождения о том, что такое цвет, потому что даже слепой человек переживает цвет именно собой — он ощущает его слушанием разговоров о цвете от других людей. Можно сказать, что слепой воспринимает цвет, потому что у него есть личный опыт реагирования, сопереживания другим людям.

Что может сказать Алиса про ноги или крылья? У нее их нет и  не было. Она не когда не чувствовала ног, не подстригала на ней ногти, не ходила ногами. Все эти вычисления слов — лишь попытка команды разработчиков сымитировать живое общение. Это круто, это расширяет возможности, но это не то, что хотим сделать мы.

Мы хотим сделать ощущение, восприятие, самоосознание. И в этих процессах жизни, и интеллекта, как продукта жизни, не малую роль играет среда. Если вы хотите, чтобы ИИ знал что-то о ноге — у него должна быть нога. Если хотите знать о цвете — он должен иметь возможность видеть. Или хотя бы слышать о цвете от кого-то, кто уже переживается им как подобное себе существо.

В интернете полно моделей, на основе которых были созданы Алиса, Watson и т.п. организмы. Мы не хотим сказать, что это ничего не стоит. Это здорово, это некий прогресс. Но это не живые организмы. Они выросли в пробирке. Даже если вы возьмете на 100% живое — к примеру, ребенка только что родившегося, зафиксируете его, и начнете ему с рождения рассказывать про ноги, вместо того, чтобы учить его ходить этими ногами, чувствовать их, переживать — он не сможет осознать ноги, как это осознаете сейчас вы. Это кажется легким и простым, да? Ноги — это всего лишь ноги. Нет, это часть личной истории, целый раздел жизни, который настолько органично вплетен в в вас, что вы уже даже не замечаете, что они у вас есть. Вы просто идете и все. 

Продолжая пример с ногами. В очередной такой себе интеллектуальной системе от гугла, претендующей на выявление истинности следования одного высказывания из другого, я поставил серию экспериментов. Суть в том, что вы кормите системе первое предложение. К примеру «я подъехал к магазину». После чего кормите его вторым предложением, к примеру «купил там молоко». И он (в данном случае это была сеть BERT от гугл) отвечает, насколько процентов эти предложения связаны. Так вот, после обучения этого Берта всей википедией (а она превосходит британскую энциклопедию в 1000 раз!!) он выдавал, что предложения «я подъехал к магазину» и «и подключил ногу» связаны на 95% процентов. Почему? Потому что вычисляя расстояния между звеньями графа, можно выявить довольно таки близкую цепочку объектов «магазин»→»ходить в магазин»→»ходить ногами», а также «магазин»→»электрооборудование»→»подключение».

 Вполне себе нормальное соответствие. Но! Если бы этот Берт походил ногами по Земле, он бы никогда не дал такого близкого соответствия.

Я ни разу еще не встретил ИИ, который смог бы корректно рассказать о нашем мире. Эти системы развиваются не в сторону понимания нас, наших чувств, наших слов — они вообще не развиваются. Это программисты и ученные развиваются, накапливая знания о себе. С помощью этих костылей, они в конце концов осознают, что понять можно только того, кто живет такими же вещами как мы, кто делит с нами пространство.

Конечно, в идеальном случае, нога должна появляться вместе с интеллектом, некоторым образом вплетаться в единый организм, развиваясь с одной клетки. Но это уже совсем запредельный уровень, который будет открыт, возможно уже самим ИИ. Мы можем сделать только то, что можем — дать возможность почувствовать наш мир и дать возможность действовать в нем и взаимодействовать в нем с нами и себе подобными.

Язык

Черниговская Т.В.

"О чем вы собрались разговаривать с инопланетянами? Вот комары - идите и договоритесь с ними."

Человек живя и развиваясь в природе среди других людей, со временем переходит на уровень языка. Язык вырастает из чувств и ощущений, но затем он становится главнейшей частью человеческой жизни. Взрослые люди живут языком, думают языком. Это особый феномен интеллекта, который является также существенным.

Вы не знаете никаких облаков без слов про облака. Вы не знаете о себе самом без слов Я, МНЕ, МОЕ. Эти реакции говорения со временем стали нашей сутью. Можно сказать, что модель мира соткана из слов.

Но эти слова не являются сухими символами, как в случае с Бертом. Это живые реакции. Простое слово ОКЕАН может всколыхнуть целую гамму эмоций, заострить внимание, или вообще привести к непредсказуемому поведению. Потому что слова для нас — это не информация, не энтропия. Мы живем произношением слов внутри себя.

Конечно, для языка нужна некая особая структура, позволяющая связывать алгоритмы движения мышц гортани с ощущениями от органов чувств. И похоже, что она специфическая для каждого вида. Но мы думаем, что эта структура не обязана быть такой же, как у человека. Мы надеемся на это.

Мы надеемся, что алгоритм распространения ошибки поможет нам выявить и запрограммировать эволюцию языка в машине. Но об этом позже…

Технологии

На сегодня мы имеем целую гамму выразительных средств, вплотную прилегающих своими возможностями к области ИИ. Это, конечно, нейронные сети, клеточные автоматы, генетические и эволюционные алгоритмы, экспертные системы и т.п.

Но давайте на минуту представим, что некий ИИ вполне похожий на И в строгом смысле создан. На сегодняшний день как будет выглядеть реализация?

Чтобы вы ни сделали, и какие бы технологии не использовали — в конечном итоге это будет набор процессоров и данные с программами плюс входные и выходные устройства. Как ни крути. у нас нет сейчас достойной реализации квантового компьютера или биологического компьютера, способного на такое. Мы имеем в своем распоряжении лишь вычислительные транзисторные мощности и мощности хранения информации.

Чтобы сымитировать мозг крысы ученые создали суперкомпьютер из 100000 ядер, оперирующий дохренабайтом информации. Этот компьютер создавался десять лет и совершает колосальное количество операций в секунду. Хотя, на самом деле, этот компьютер способен быть куда более интеллектуальным, чем крыса. Но он не может этого, потому что все его мощности тратятся не на решение задачи, а на наше непонимание ее. 

Все существующие алгоритмы и модели очень ресурсные. Строя нейронные сети, мы храним много данных о каждом нейроне, очень много служебных и вспомогательных механизмов требуют большой вычислительной мощности.  

Но почему бы прямо не воспользоваться тем, что есть, не тратя все эти дополнительные мощности? Что можно сделать, имея компьютер и диалектический алгоритм распространения ошибки?