=^.^=

Динамическая ассоциативная память

2009-09-26T11:53:50Z

Внезапно вспомнил, что у меня, оказывается, есть ЖЖ, да не простой, а в котором я уже давно хочу выложить обзор работы, которую докладывал на IJCNN'09 :) Собственно статья лежит, например, тут: http://animeculture.org.ua/anluheiq21/dynamic_associative_memory.pdf (русской версии нет - значительная часть писалась сразу на английском).

Идея в чем: стандартная ассоциативная память имеет аттракторные состояния (т.е. устойчивые состояния, по достижению которых в сети прекращаются какие-либо изменения). И при показе вектора, отличающегося от этих аттракторов, сеть может выбрать аттрактор, наиболее похожий на этот вектор, за несколько итераций. Конечно, тут есть ряд проблем (главным образом, огромная чувствительность к смещениям, поворотам и изменениям масштаба), но на них есть ряд методов решения, и в целом сети такого рода интересны как с научной, так и с практической точки зрения.
Однако они пригодны только для распознавания статических образов - показали картинку - получили восстановленное изображение - пошли дальше.
Мы поставили перед собой задачу запоминания последовательностей - т.е. не просто распознать, на что похоже данное изображение, а определить, ложится оно в контекст текущей последовательности, или противоречит ему (и если противоречит - есть ли другая последовательность, которая лучше опишет новое изображение в данном контексте). На вход сети поступает (искаженный) текущий образ последовательности, на выходе сеть должна сформировать следующий образ из этой последовательности.

В принципе, к этой задаче уже подходили со стороны ассоциативных нейросетей, и получили определенные результаты, но во всех известных нам работах использовали хеббовское правило модификации весов: если два нейрона одновременно активны, связь между ними усиливается, если один активен другой нет - ослабляется (есть ряд модификаций этого правила, но суть такова). Это подразумевает длительный итеративный процесс, который к тому же гарантированно сходится только если память далека от насыщения.
Вместо этого мы использовали алгоритм псевдообращения матрицы, а также рассмотрели виртуальную сеть - кроме реального слоя из N нейронов было введено еще два виртуальных слоя (один для представления входов, другой - для представления задержанных сигналов). И хотя "физического смысла" у виртуальных нейронов нет, их введение позволило применить математику для стандартной сети Хопфилда (т.к. получилась квадратная матрица, пусть и большая ее часть физически не существует), получить ряд оценок аттракторного радиуса, ну и собственно однопроходный алгоритм обучения (который, к тому же, позволяет добавить образы в память и удалить из памяти без полного переобучения, чего и близко нет при хеббовском правиле). Оценки были проверены экспериментально, соответствие - очень хорошее.

На модельных задачах память показала весьма неплохие характеристики - так, например, при двух запомненных последовательностях, одна из движущихся горизонтальных линий, другая - из вертикальных, сеть способна отслеживать последовательности при уровне шума в 35%, с 14 запомненными образами на 100 нейронов. Этот показатель является недостижимым для статических сетей. А если снизить число образов до 4 - то шум можно довести почти до 60%, в этом случае и человек не сможет решить задачу, если он не знает о последовательностях (когда из 100 клеток, из которых 10 заполнены линией, 60 имеют случайные значения - линия не всегда видна, и иногда скорее видна вертикальная вместо горизонтальной). Тест был весьма жестким - сеть должна была дать ровно 0 ошибок при 5-кратном прогоне всех образов всех последовательностей, полученный граничный уровень шума усреднялся по 10 независимым повторениям тестирования.

Интересно поведение сети на задаче с пересекающимися последовательностями - в одной последовательности круг движется по одной диагонали, в другой - по другой, в центре они пересекаются (пересечение точное, никаких отличий). В точке пересечения на выходе сети получается правильное продолжение той последовательности, в которой сеть вошла в это состояние, а на постсинапсе видна также "тень" второго варианта продолжения этой же последовательности.

Ради интереса, мы поставили эксперимент, в котором выход сети подавался обратно на вход - таким образом сеть самостоятельно могла генерировать запомненные последовательности (т.к. при поступлении на вход образа номер N сеть отвечает образом N+1, если же сделать последний образ последовательности совпадающим с первым - получится замкнутый цикл). Если в этом режиме при эксперименте с двумя кругами сеть начинала работу из точки пересечения (т.е. без всякого контекста) - то в динамике наблюдался гибрид движения по одной и второй последовательностям, правда заметно искаженный, но тем не менее. Если начало было в другой точки - последовательность генерировалась устойчиво, в том числе и при прохождении точки пересечения.

С учетом того, что это - простейшая из моделей на эту тему, и мы сейчас ведем работу над значительным ее усовершенствованием, можно ожидать еще более интересных (и, возможно, практически ценных) результатов.
В частности, многообещающе выглядит гибрид этой сети с ядерной ассоциативной памятью, которая обладает обобщающими свойствами. Возможно, к следующей конференции успеем что-то на эту тему...

IJCNN'09 - фото (качество мрачное)

2009-06-28T18:53:14Z

Попытки что-то вытянуть из шума увенчались практически полным провалом, поэтому в целях экономии сил я не стал обрабатывать фотки массово, выкладываю "как есть". Подписи дублируются при наведении курсора на фотки, все кликабельно.

Вскоре после вылета из Киева

Прага, вид сверху

На этом поезде я ехал к своему терминалу в аэропорту им. Шарля де Голля

А это уже Атланта. Меня поразила система мусоропровода - при том, что это самый центр города... Запах соответствует виду!

Вот собственно гостиница, в которой я жил. Если верить рекламе, вторая по высоте в западном полушарии \m/

Система переходов между зданиями в центре необычайно развита, можно обойти практически весь квартал не выходя на улицу

Вид из моего окна ночью (29й этаж из 75)

Вид ранним утром (около 5:30), туман...

Тогда же, вид на Олимпийский парк (заложен к Олимпийским играм 1996го года, проходившим в Атланте)

На одной из улиц стоит несколько старых машин, среди них такое вот, кажется еще довоенное, чудо техники

К сожалению не знаю какому именно Гордону этот памятник (Фримену?), интернеты расходятся во мнениях, а моя память не заслуживает доверия

Здание City Hall, выглядит впечатляюще

Здание суда и, по совместительству, Federal Building им. тов. Рассела

Здание им. Мартина Лютера Кинга, которое мне запретили фотографировать, соответственно ракурс не лучший

Стоянка возле железной дороги, на вид все в таком же мрачном и заброшенном состоянии, как и у нас - и это не исключение, таких там полно вокруг

World Congress Center - Atlanta Dome. Внушительное здание, с прилегающим парком, стоянкой и развязкой занимает площадь порядка 1кв. км

Скульптура и неработающий фонтан в парке этого центра. Да, как обычно - вокруг ни души

Центр CNN, как и написано :)

Вид из Олимпийского парка на центр города

Самый большой в мире аквариум. Я как редкий идиот туда не зашел, да...

Все-таки Porshe мне очень нравятся, я не удержался и сфоткал. Правда, телефону явно было плохо, о чем свидетельствует полоса в центре...

Закат, вид из моего окна. Обратите внимание, как искусно плохой фотоаппарат умеет испортить естественную красоту :)

Некоторая церковь, в целом их там полно...

А вот так у них выглядит больница. Внушительно.

Доклад Вапника

Доклад Хопфилда

Доклад Тайлора

Холл гостиницы, вид от входа в конференц-залы

Фуршет - крабы, устрицы... :)

Джазовый оркестр - все как у людей!

Ихнее метро (переходящее за городом в электричку). Примерно как наше

Скульптурная группа "муравьи" в аэропорту в Атланте

Негр, чистящий обувь. Стандартная картина для тамошних краев...

Небо над Норфолком

Рассвет над Атлантикой, к сожалению Солнце с другой стороны самолета...

Встречный самолет на пути из Парижа в Киев

Наша столица, вид сверху :)

IJCNN'09 - Обзор работ

2009-06-23T16:12:03Z

Интересных докладов было очень много, часть посвящена довольно техническим вопросам, и едва-ли будет интересной в кратком изложении, а часть имела довольно общий характер. На этих докладах я и остановлюсь более или менее подробно (в хронологическом порядке). Очень и очень обзорно, т.к. написание полноценного анализа заняло бы в лучшем случае несколько недель, а не все из них интересны лично мне. Но могу детализировать и/или прислать статьи.

Neural Synchrony and Selective Attention, Robert Desimone, MIT, USA. Экспериментально показана и теоретически обоснована роль внимания в визуальном восприятии: в той области визуальной коры, на которой в данный момент сосредоточено внимание, отклики нейронов на изменение входных стимулов намного более активны, и имеют существенно большую предсказательность по сравнению с областями, на которых внимание не сосредоточено. Вполне логично, но кроме констатации факта предложена модель, как представлять внимание в форме модификации параметров нейросети.

Integrating Spiking Neural Networks, Nikola Kasabov, AUT, NZ. Внеочередной доклад, замещающий кого-то отсутствующего, поэтому скорее обзорный. Но тем не менее много правильных слов про спайковые нейронные сети и про ошибочность использования частоты спайков в качестве основного характерного параметра (чем страдает ряд работ в этой области). Также предложена концепция квантового представления признаков, когда каждый признак обладает некоторой вероятностью наблюдения: при подаче входного вектора сети, для каждой компоненты при подаче очередного образа берется случайное число, и она либо используется, либо отбрасывается, в зависимости от ее вероятности. Предложен метод вычисления этих вероятностей, и показаны его преимущества при обработке некоторых типов данных большой размерности с явной избыточностью некоторых компонент входов.

Learning Using Hidden Information, Vladimir Vapnik, USA. Крайне интересный новый метод обучения. Суть в следующем: допустим у нас есть множество обучающих векторов с метками классов, к которым их следует отнести (стандартная задача), и некоторая дополнительная информация об этих векторах, данная экспертом. Загвоздка в том, что для реальных задач дополнительная информация будет недоступна - мы не можем посадить эксперта рядом с каждой нашей системой. Вапник предложил метод, который позволяет использовать дополнительную информацию при обучении так, что результирующее решающее правило окажется лучше, чем построенное классическими методами, без этой информации. Общая идея метода состоит в использовании расстояния между обучающими векторами в дополненном пространстве, но деталей я пока не осознал.

Memristor: 38 Years Later, Leon Chua, USA. Мемристоры - элементы, аналогичные R,L,C, как R связывает напряжение и ток, C - напряжение и заряд, L - ток и магнитный поток, так M - мемристор - связывает заряд и магнитный поток. В мае 2008го была наконец придумана полупроводниковая реализация этих девайсов (там своя специфика, его работа основана на химических превращениях, но характеристика как раз нужная получается), и крайне довольный докладчик рассказывал о новом поколении цифровой техники, которая может быть на них построена. Из интересных особенностей - мемристоры могут быть использованы как для запоминания информации, так и для вычислений - таким образом в будущем память и процессор могут оказаться интегрированными в один чип, что для некоторых типов задач решит проблему скорости передачи данных по шине. Также мемристор в некотором смысле очень напоминает ионный канал нейрона, поэтому модель спайкового нейрона на мемристорах выглядит очень просто, и может быть реализована с большой плотностью элементов. Возможно, как раз к тому времени, когда механизмы обучения таких сетей будут доведены до ума.

Large Scale Model of The Human Brain, Eugene Izhikevich, USA. В принципе ничего принципиально нового - просто товарищ взял стандартную модель нейрона, и сделал большую-пребольшую спайковую нейросеть, без обучения, со случайно распределенными связями (характеристики распределения взяты из биологии), и посмотрел как она себя ведет. Но нейронов он взял дофига - для начала, 10 миллиардов, и смоделировал несколько секунд, а потом 10 миллионов, и смоделировал много раз по несколько минут в разных условиях. Картинки впечатляют - видны волны спайковой активности, общая картина очень похожа на то, что меряют биологи в реальном мозгу. Из особо интересного - модель детерминирована, но если для 10м нейронов убрать из активности всего 1 спайк (а в секунду их пробегают десятки миллионов), то уже через 300 миллисекунд активность всей модели будет существенно отличаться от того, что было раньше. К сожалению, они не особо исследовали вопрос, как ведет себя модель при одинаковых воздействиях на разном фоне - ИМХО, это было бы еще интереснее.

How to Deal With Inhomogeneous Outputs and High Dimensionality of Neural Network Emulations of Model Physics in Numerical Climate and Weather Prediction Models, Vladimir Krasnopolsky, USA (постер). Работа в принципе не особо примечательна, кроме одного факта - оказывается, можно весьма и весьма эффективно использовать нейросеть вместо физических расчетов! Правда, это годится только при наличии опорных точек раз в пару часов, на больших временах нейросеть расходится, но с учетом просто несопоставимой вычислительной сложности - очень и очень толковое применение.

Cognitive Memory: Human and Machine, Bernard Widrow, USA. Видроу уже очень стар, говорит пространно и невнятно, поэтому значительную часть я, к сожалению, не понял. Однако демонстрировал работу системы визуального распознавания объектов, которая выглядит впечатляюще. Суть проста до безобразия - объекты, которые нужно распознавать, запоминаются в большом количестве различных поворотов и масштабов, равно как и масса различных вариантов фона. То есть действительно огромное количество - ассоциативные нейронные сети там размерности порядка 100 тысяч и более. И при распознавании там тоже выбираются всевозможные вращения и масштабы всех возможных окон. Однако результат - 100% распознавание, в том числе на задаче "на фотографиях 375 разных людей найти 75 знакомых, в неизвестных ранее ракурсах". Впечатляет.

Две статьи - "A Novel Chaotic Spiking Neuron and its Paralleled Spike Encoding Function", и "Bifurcation Analysis of a Reconfigurable Hybrid Spiking Neuron and its Novel Online Learning Algorithm", докладчик - Hiroyuki Torikai, Japan. Предолжен простой способ кодирования информации в форме спайков нейронов, суть которого состоит в том, что нейрон генерирует спайки случайно, с плотностью, которая соответствует амплитуде входного сигнала. Однако при этом доказан ряд теорем, гарантирующих адекватность такого представления исходному сигналу при достаточном числе нейронов, а также предложена очень простая модель спайкового нейрона на двух счетчиках, которая позволяет с одной стороны легко реализовывать его на простых логических элементах, а с другой - демонстрирует интересную динамику, очень напоминающую динамику реальных нейронов, с куда более сложной моделью.

Efficient Simulation of Large-Scale Spiking Neural Networks Using CUDA Graphics Processor, Jayram Moorkanikara Nageswaran, USA. Ничего принципиально нового с точки зрения моделей, однако рассмотрен и решен ряд практических задач, возникающих при моделировании спайковых сетей на графических ускорителях. Статья интересна опытом реализации, а также результатами моделирования - 100 тысяч нейронов при 10 миллионах связей работают почти в реалтайме (в 1.5 раза медленнее), а в целом на одной доступной на сегодняшний день плате можно смоделировать порядка полумиллиона нейронов и порядка 50 миллионов связей. Кроме всего прочего, доступны исходники этого проекта, что делает его особо ценным с практической точки зрения. Доклад отмечен как лучшая работа конференции.

Из тех докладов, на которых я присутствовал, эти - наиболее запоминающиеся, хотя возможно что-то я и забыл... Могу долго вдаваться в детали по желанию читателей :)

IJCNN'09 - Atlanta

2009-06-21T22:26:10Z

Да, я таки там побывал. 12го утром купил билеты (за срочность переплатил долларов 200), 12го днем начал делать постеры (и таки закончил до 6 часов), 12го вечером забронировал гостиницу, а 13го в 6:15 утра вылетел в Париж, оттуда около 11 в Атланту. 13го в 14 часов по ихнему времени (по нашему - 21) добрался.
...да, по этому поводу фотоаппарат я забыл. Правда в мобильнике тоже есть что-то вроде, но качество... -___- Попробую пофильтровать шумы и выложу отдельно через несколько дней.

(тут только путевые заметки, по научной составляющей будет отдельный пост, и суть нашего доклада тоже пойдет отдельно)

Аэропорт в Атланте преподнес несколько сюрпризов. Во-первых, нужно было заполнить некоторые формы при въезде, однако ручек для этой цели предусмотрено не было. Когда я с большим трудом отыскал там еще двух наших студентов, у одного из которых по счастью она таки была, и заполнил наконец все формы, сотрудник аэропорта, направлявший всех в разные окна паспортного контроля сказал мне на чистом русском (хоть и с ощутимым акцентом) "Спасибо, товарищ!". Таки да, дух СССР там сохранился - когда я летел обратно, охранник мне нахамил по поводу того, что я ноут из рюкзака не вытащил. Также, на выходе не обнаружилось никаких указателей - я пошел направо, и попал на автобусную стоянку (20$ до моей гостиницы, правда прямо до дверей)... Надо было идти налево, попал бы в метро (2.25$ до гостиницы, правда еще минут 5 идти), но кто ж знал...

Гостиница неплохая, но за 200$ в сутки я ожидал большего... Не предупредив сняли дополнительно 217$ со счета (как потом пояснили - на случай если я решу слинять не заплатив за доп. услуги), хорошо хоть вернули после отъезда, в первую ночь принесли в 3:40 утра по ихнему времени еду, которую я не заказывал - ошиблись комнатой, на следующий день просунули под дверь счет от другой комнаты... Да, и в ихнем баре потребовали удостоверение, что мне правда есть 21 год - в отместку я не оставил чаевых :) Короче, бардак еще тот...

Поскольку времени изучать достопримечательности заранее у меня не было, я решил просто побродить по городу, и заодно купить еды. Это оказалось весьма непростой задачей... В целом, город устроен так, что в центре есть магазины только для туристов и деловых людей. Ни тем ни другим исходники еды не нужны - они с радостью покупают готовое в массе фастфудов и ресторанов. Однако у меня ситуация была несколько другая, еда-то за свой счет... В общем, после примерно часа прогулок в разных направлениях мне подсказали куда идти (еще кварталов 5-6 где-то), где бывает еда. Как оказалось, я шел по бедным черным кварталам, и первый магазин, подозрительный на еду, оказался весьма странным - там была вода, чипсы, и, собственно, все. Да, еще там были наркотики, которые мне тут же предложил один негр у входа. Я вежливо отказался :) Но на меня все тусовавшиеся там негры (человек 5-6) посмотрели как-то странно... Впрочем, направление на магазин с нормальной едой я все же узнал, и пошел дальше.

У супермаркета было 2 входа - казалось бы, что тут странного? Ну я и зашел в левый, мне он почему-то больше приглянулся. Как оказалось позднее, это снова было ошибкой - главные запасы еды доступны с правого входа. Но несмотря на это я купил сока, воды, хлеба и печенек, заплатив 11.50. Ушел довольный :) По пути обратно со мной поздоровалось человек 5 (все негры, они вообще как-то позитивно на меня реагировали повсюду), один жутко обдолбаный сказал, что любит :) В целом, у меня создалось ощущение, что по ихнему дресс-коду я выгляжу как хиппи-гей, даже была мысль спросить кого-то на эту тему, но я подумал что это все же немного слишком странно :) (да, белые мужчины с длинными волосами там - огромная редкость, да и среди черных это не популярно).

На следующий день я отправился в другую часть города. Дошел до какой-то станции подземки, там со мной познакомился какой-то негр-гей (я правда понял это к концу беседы, собственно на этом понимании она и закончилась :)), пошел дальше, еще немного походил по городу - удивило огромное количество бомжей (существенно больше чем у нас), множество заброшенных помещений, которые когда-то были то ли магазинами, то ли офисами, но сейчас выглядят как наши заброшенные советские продмаги в конце 90х - с такими же кучами мусора внутри и снаружи, и следами ночлега бомжей. Да, порадовали таблички "Criminal trespass. No loitering!" в какой-то парковой зоне, которая мне приглянулась. Пара соответствующего вида негров, провожавшая меня взглядами из-за бордюра возле входа, служила наглядной иллюстрацией :) Я подумал, что наверное не стоит там задерживаться, и отправился дальше. При попытке сфотографировать здание имени Мартина Лютера Кинга на меня замахал охранник, по этому поводу я сфотографировал его 3 раза с разных сторон, исключая фасад, где он стоял :) Потом я пошел по какой-то здоровенной развязке, где нормальные люди только ездят, и через минут 20 дошел до здания "Georgia World Congress Center" - действительно солидно, выглядит здоровенным, а перед ним - большой парк очень аккуратного вида. И - ни души на площади в пару квадратных километров, т.к. воскресенье, никому оно все нафиг не нужно. Ощущение немного постапокалиптическое :) Которое, впрочем, нарушил негр-уборщик, который приветливо со мной поздоровался...

После этой прогулки я посмотрел на здание CNN Center, вернулся в даунтаун (то бишь центральную часть города), увидел наконец самый большой в мире аквариум - но сил идти внутрь уже не было (впрочем, если бы я знал, что другого шанса не предоставится - наверное зашел бы). Вход кстати всего 35$, по тамошним расценкам - как 3 раза поесть дешевого фастфуда... Но я пошел дальше, посмотрел на 4D-Theater (что оно такое - Аллах ведает, но здание большое и надпись именно такая), и вернулся в гостиницу.

Потом был opening reception в рамках конференции, с какой-то странной едой, как на мой вкус - слишком остро, и не по погоде горячо. Впрочем, насчет погоды - белые люди там живут при температуре 17 градусов и на улицу почти не выходят. Да, и социальное расслоение на "белых" и "негров" очень сильно - не то чтобы среди "белых" не было негров, и не то чтобы среди "негров" совсем уж не было белых (хотя и крайне редко), но эти социальные группы разделены пропастью... И друг друга явно не любят (кстати, возможно, этим объясняется позитивное отношение негров ко мне - я по всем признакам из их социальной группы).

Потом пошли доклады... С 8 утра до 8 вечера, после чего я заползал в номер и уже ничего не хотел. Один раз только вышел в супермаркет за едой, купил в числе прочего суши (отличные, приготовленные на месте суши за 8.99 - у нас такое обошлось бы вдвое дороже).

В среду к этому добавился вечерний ресепшн и банкет по случаю конца конференции. Вот это стоит отметить отдельно - ресепшн явно отдавал духом начала века: помимо изобилия фруктов, овощей, и экзотических блюд - крабы, устрицы, великолепное вино, джазовый оркестр (только негры), обслуживающий персонал - отлично вышколенные негры в безупречных костюмах, белые люди, непринужденно общающиеся в формате фуршета... Было в этом что-то не из нашей реальности :)
Банкет тоже порадовал - те же официанты, несколько столовых приборов, из которых сначала берутся крайние, потом те что ближе к центру, и так до последнего блюда, собственно еда - на высоте... Короче, по высшему разряду :)

А в четверг были еще доклады (кстати, ничуть не худшие, местами и лучшие), и собственно конец конференции. Я, как и положено, почти провтыкал время выписки из гостиницы - в результате пришлось собирать вещи за 20 минут, чтобы не платить за лишнее время, но я как раз уложился :) После чего я чуть больше часа побродил по магазинам в поисках сувениров, и отправился в аэропорт. Как оказалось, я вовсе не зря приехал туда за 3 часа до самолета - после всех очередей и секьюрити контролей, до начала посадки оставалось полчаса. Правда на взлете образовалась пробка на час - мы ползли то на одну полосу, то на другую, потом стояли в очереди на взлет... Но в конечном итоге прилетели с опозданием только в 25 минут (а если бы аэропорт не тормозил и принял бы сразу - получилось бы и вовсе 15). Хотя до моего рейса оставалось чуть менее часа, а автобус на нужный терминал пришел только минут через 15, я успел без малейших проблем (хорошо что не нужно было еще поездом ехать, как по пути туда). А вот багаж, как оказалось, нет :)
Но по прилету в Борисполь я первым сориентировался в обстановке, заполнил заявку на пропавший багаж без очереди, и вышел из здания минут через 30 после посадки :) Все-таки в этом отношении у нас куда проще, чем в США... А багаж на следующий день таки доставили в целости и сохранности.

Итого: перелет - 1150, гостиница - 1050, еда+транспорт - 55. Первые два пункта мне оплачивают :) (надеюсь! деньги еще не дошли...)

Коммунистическая игра

2009-05-16T11:10:40Z

Недавно в процессе обсуждения одного, ИМХО бредового, проекта по построению коммунизма, мне пришла в голову следующая мысль:
а почему бы не сделать многопользовательскую онлайн РПГ игру, в которой все товарно-денежные отношения были бы построены по коммунистическому принципу? Например, в форме свободного копирования чего угодно, если оно находится в подходящей зоне? (т.е. нельзя скопировать вещь из кармана соседа, но можно - из магазина, или у соседа тоже можно, но из монстров, если таковые будут, нельзя, или как-то так еще). Ну, или по какому-то другому, похожему, принципу - пока это все на уровне сырой идеи.

Главный вопрос, который тут возникает - это что собственно нужно будет делать в этой игре? Как ее организовать так, чтобы народ со скуки не позабивал на все через день?
И ряд вопросов поменьше - как именно организовать систему всего, сколько человек нужно чтобы это все работало, и т.д.
Не думаю что я когда-нибудь доберусь до ее реализации, но, во-первых, мало ли что, а во-вторых, может кто другой возьмется...

Какие будут идеи?

Сознание (теперь попробую более внятно)

2009-04-09T15:42:00Z

Как и обещал вчера в ТГ чате, излагаю свое понимание феномена сознания.

Для начала немного уточню термины: осознавать что-либо - понимать как что-либо устроено, что оно в целом делает, какими примерно свойствами обладает (что такое "понимать" определю ниже). Сознание - осознание себя как мыслящего существа, окружающего мира, и соотнесение себя с окружающим миром.

Теперь о понимании: это понятие я определяю на некотором классе систем (частный случай мыслящих систем), которые обладают следующими характеристиками:
1. В системе есть некоторое количество базовых узлов, каждый из которых может находиться в некотором, небольшом относительно общего количества узлов, числе состояний. Эти состояния (привязанные к конкретному узлу) будем называть базовыми понятиями системы.
2. Узлы имеют множество связей (связей существенно больше, чем узлов), и динамика состояний узла в значительной мере определяется состояниями тех узлов, с которыми он связан (кроме этого на динамику влияет его собственное состояние в данный момент, и, для некоторого числа узлов - внешние стимулы).
3. Понимание - соотнесение некоторого состояния одного из базовых узлов (или устойчивого комплекса состояний нескольких базовых узлов) - "понятия" - с состояниями других узлов. В частности, соотнесение может быть ассоциативное, причинно-следственное, или какое-либо еще. Суть в том, что определенные комбинации состояний связанных узлов вызывают искомое понятие, а оно в свою очередь - некоторые другие понятия.

Упомянутые состояния в некоторых случаях могут быть статическими, однако для оперирования какими-либо динамическими понятиями они должны быть динамическими.
Соответственно, сознание в такой системе - это динамика состояний некоторого комплекса базовых узлов, который представляет собой модель осознающего существа.

Забавно...

2009-01-19T11:37:01Z

Как занять блондинку на два часа

На блондинку я не потянул, но все же на некоторое время заняло :)

Итоги года

2009-01-04T16:00:06Z

*если вы читаете этот пост, значит я таки заболел, и не удалил написанное в процессе написания.
**вступление о том, что многие такое пишут и я решил не выделяться, или как-то наоборот, что это все для меня, а читатели будут помогать мне с самоанализом, я пропущу.

Год выдался сумасшедшим.
С семьей вообще дурдом полнейший выдался, я даже не буду начинать объяснять кто, куда и чего, если кратко и очень приблизительно - у меня сменилась жена, а все остальное осталось на местах.
Я как-то умудрился прожить почти исключительно на одну зарплату - причем прожить так же, как и раньше, с поездкой в Крым, покупкой всякой бытовой техники, и пр. Это какое-то очень сильное колдунство, я так и не понял его суть - к трате денег я относился все время так же безответственно, как и раньше.
С работой - разброд и шатание, взялся за кучу разных дел, по каждому из них очень здорово продвинулся, но до ума не довел ничего. Ну, почти ничего. Надеюсь хотя бы половину закончить в следующем году - иначе будет совсем грустно. Мог бы сделать 3 очень приличных статьи, но все время находились более срочные дела. Срочные дела оказывались совсем не такими важными, как казалось - но в процессе возникали существенные мысли, додумывание которых доедало оставшееся время.
Здоровье порядком подкачало, у всех. Надо что-то с этим делать, но что - не слишком понятно... Из позитива - за год моя квалификация врача, в частности травматолога, педиатра и инфекциониста, порядком подросла.

В целом было тяжело. Пожалуй, самый сложный год за весьма длительное время. Но зато не скучно ни разу :) Однако, я все же надеюсь, что следующий год будет поспокойнее...

О причинности, телепортации, и всех-всех-всех

2008-11-17T12:47:41Z

Я долго думал с разных сторон на тему того, почему передача информации со сверхсветовой скоростью нарушает причинность. И обнаружил, что не понимаю. Как ни крути. Я так и не увидел, почему все нельзя объяснить так, чтобы ничего не нарушалось.
Меня это очень беспокоит. С одной стороны, не хочется чувствовать себя самым глупым из физиков. С другой, уже много раз в дискуссиях на эту тему я приводил контраргументы, и всегда в итоге слышал один ответ - "посчитай, оно само получится". Не получается. Наверное, я считаю неправильно, или что-то из виду упускаю - но вот факт. Все просьбы показать наглядно, как же оно все-таки должно получаться, натыкаются на отсутствие ответа под тем или иным предлогом. Но не может же этот король быть голым?! Товарищи, да что ж это за беспредел творится-то! Выручайте...

Кросспост и пару слов о нем

2008-10-28T15:55:33Z

Очень прошу всех увидевших: разместите кросс-пост у себя.
25 октября 2008 года между 20:00 и 20:45 на улице Косыгина были сбиты молодой человек и девушка. Оба были доставлены в реанимацию. Кома, операция, смерть.
Мы ищем свидетелей данного происшествия. Подробности и контакты - ниже.

Отсюда:
http://mr-boggus.livejournal.com/20227.html

От себя же хочу добавить - всегда в таких случаях надо бороться и искать. Легко сказать "вот урод, сбил и уехал", легко сказать "милиция ни черта не делает" - и сложно самому найти концы. Честь и хвала тем, кто это делает. В данном случае - они уже нашли. Да, это никого не вернет к жизни. Но это - т.е. неотвратимость ответственности - спасет огромное количество жизней в будущем. Так что надо бороться, и надо писать об этом. Пусть боятся! В современном городе незаметно скрыться невозможно, если есть люди, которые ищут на совесть.

По мотивам чайлдфри: дети и эволюция

2008-09-20T14:45:28Z

(написано по мотивам обсуждения тут: http://mavkakrasiva.livejournal.com/17397.html )
У людей, решивших обойтись в своей жизни без детей, есть несколько разных мотивов. Часть из них ИМХО лежит в области психиатрии, но это совсем тяжелые случаи, когда решение вызвано ненавистью к детям и страхом перед ними. Это полностью вне моей компетенции, я могу это только осудить, но не проанализировать.
Часть не хочет портить себе жизнь заботой о "каких-то чуждых им организмах". Это конечно одна из форм эгоизма, связанная однако с непониманием того, какой смысл лежит в продолжении рода. Впрочем, этих людей я также осуждаю, поскольку эгоизм и нежелание думать своей головой тут первичны.
А вот часть находит вполне серьезные аргументы: не видит смысла в жизни, не понимает ради чего они должны облекать новое существо на страдания в этом мире (жизни без страданий ведь не бывает), не считает себя способными воспитать нормального ребенка, и это является корнем такого мировоззрения. Однозначно осуждать таких людей конечно нельзя, но некоторые аспекты заслуживают отдельного разговора. Например, что собственно говоря все мы делаем в нашей жизни, и какую роль в этом играют дети.

Итак, для чего вообще нужны дети?

Для ответа на этот вопрос, нам нужно сначала определиться с другой позицией: а именно, хорошо ли что существует человечество вообще (включая самого читателя этого поста), или плохо? Сразу оговорюсь, что "хорошо" в данном случае - это то, за что бы голосовал читатель в случае проведения всенародного референдума по данному вопросу, а "плохо" - соответственно то, против чего он бы голосовал.

Тем людям, которые считают, что это плохо, я могу только посоветовать заняться разработкой вируса, который будет способен надежно истребить нашу цивилизацию. Это является наиболее разумным действием при такой позиции, и конечно убеждать их в необходимости продолжать род я не могу.
Те кто считает, что это ни хорошо, ни плохо, должны крепко подумать. Если ответ по-прежнему неясен, то я опять же не могу ничего посоветовать.

Теперь все дальнейшие рассуждения будем проводить для человека, который считает, что при всех своих недостатках человечество все же уничтожать не стоит, не настолько уж оно плохое в целом.

Итак, представим себе что некий младенец попал на необитаемый остров, выжил там и вырос. Вопрос - в какой мере он является современным человеком? Правильно, ни в какой. Он НЕ является современным человеком вообще, а является просто особо умным животным, способным к обучению. И не более того. Современный человек - это вид, который воспроизводится не только и даже не столько на генетическом уровне, сколько на культурном. Именно культура (я использую это слово для обозначения всех достижений - в области коммуникации, науки, искусства и прочих), носителем которой является человеческое общество, формирует те мыслящие существа, которые можно называть современными людьми.

Таким образом, можно утверждать, что именно культура, носителем которой является общество, является на данный момент объектом развития. Человечество эволюционирует целиком и полностью благодаря эволюции культуры. Однако справедливо и другое утверждение - поскольку культура является порождением общества, то она эволюционирует благодаря эволюции человечества. Проще говоря, культура и общество - неразрывные части одного целого, которое можно назвать "генератор разумных существ" (ГРС).
Поскольку здесь мы рассматриваем только тех, кто считает человечество хорошей затеей, то логичным и последовательным действием будет принять участие в развитии нашего ГРС, отказ же от участия - нелогичен, это примерно как хотеть хлеба, но голосовать против выделения земли под зерно.

Участие может принимать три основные формы: развитие культуры, как основного средства эволюции, производство материала для формирования разумных существ (т.е. детей), и формирование разумного существа из исходного материала (т.е. воспитание).
Причем человек, сделавший действительно существенный вклад в развитие культуры взамен создания новых разумных существ, вполне заслуживает одобрения. Однако есть одна маленькая деталь. Ключевую роль в этом процессе играет смерть. Разумные существа со временем умирают, и, в случае если они не смогли передать свой вклад в эволюцию культуры обществу, их жизнь с точки зрения эволюции разума была практически бессмысленной.

Вот в этой передаче своего вклада обществу и зарыта собака. Когда речь идет о чисто научном вкладе - его можно выразить в статьях, которые воспримет научной сообщество. Если это вклад в искусство - он может быть выражен картинами, стихами, музыкой или как-либо иначе. Но что делать с той частью культурного вклада, который включает в себя мировоззрение, в значительной мере интуитивное понимание мира, оптимальных правил поведения, закономерностей устройства общества, которые не могут быть выражены в кратких однозначных формулировках? Со смертью человека это уходит из общечеловеческой культуры целиком и полностью, хотя это как раз все то, что составляло индивидуальность.
Однако именно в процессе воспитания собственного ребенка этот вклад сохраняется - возможно, ребенок его переработает, изменит под себя, но он безусловно его воспримет практически полностью.

Таким образом, человек, не воспитавший за свою жизнь ни одного ребенка, и не являющийся при этом гением науки/искусства, фактически исключил себя из эволюции разума на Земле, поскольку культурные достижения "среднего человека", остающиеся потомкам, равны примерно нулю по сравнению с тем пластом, который он несет в себе. Да, в некоторых случаях особо нехороших людей исключение из эволюции бывает правильно (в частности, те чайлдфри, которых я отнес к первой группе, поступают абсолютно верно). Тем не менее, в большинстве ситуаций это вовсе не так.
И даже весьма посредственные родители почти всегда вносят в эволюцию человечества вклад существенно больший, чем бездетные.
Кстати, что характерно: для эволюции разница между одним ребенком и десятью намного меньше, чем между одним ребенком и отсутствием детей.

Дельфины

2008-09-08T06:23:07Z

В поисках хороших мультфильмов вместе с дочкой, случайно наткнулся на совершенно замечательный, рекомендую посмотреть: http://www.youtube.com/watch?v=94AQHbjd8ps
И в процессе просмотра я вдруг вспомнил. В начале 90х мы с отцом ездили в севастопольский (тогда еще в основном военный) дельфинарий, по поводу экспериментов по изучению языка дельфинов. Цифровой техники в те времена у нас не было никакой, но в дельфинарии совершенно случайно оказался потрясающий бобинный магнитофон "TEAC", размером с хороший шкаф, начиненный такой ламповой электроникой, которой по-моему и сейчас позавидует большинство студий. С его помощью, а также с помощью очень хитрого, разработанного и спаянного отцом преобразователя частот, была записана куча материала на тему изучения дельфиньего языка, на обычные советские кассеты (не бобины, т.к. их уже тогда почти негде проигрывать было). Которые, ввиду закрытия темы, урезания любого финансирования и необходимости как-то крутиться чтобы не помереть с голоду, так и остались лежать в сейфе на работе.
Однако с того времени я немного подрос, и пожалуй сейчас мог бы посмотреть на этот материал совсем другими глазами. Осталась одна небольшая проблема - перевести их в цифровую форму. Товарищи, у кого остался достаточно приличный кассетный проигрыватель? Хотелось бы потерять как можно меньше хотя бы на этом этапе...

Современные дети...

2008-09-07T20:14:10Z

Недавно при просмотре всякой всячины, записанной когда-то на диски, был обнаружен отличный психоделический клип, нарезанный из аниме FLCL. Сам клип заслуживает всяческих похвал и все такое (лежит тут: http://animeculture.org.ua/AMVcomments/viewthread.php?threadID=50 ), но собственно чего я пишу: реакция Кати меня повергла в околошоковое состояние. Вместо того, чтобы, как нормальный четырехлетний ребенок, ничего не понять и пропустить все мимо ушей, она на следующий день после попросила показать ей клип снова, и как оказалось, он ей очень нравится. Тогда я отмахнулся от реальности, и списал это на случайность. Однако когда она попросила найти ей этот клип сегодня (т.е. 2 недели спустя), это случайностью уже не назвать. Получается, психоделика доступна к восприятию не только взрослым окрепшим умам? Или дети ее видят совсем иначе?
...показать ей что ли The Wall?

О линуксах

2008-08-08T05:39:30Z

На днях поставил-таки на домашний сервер Ubuntu (8.04). Первое, что удивило - это простота установки. Проще винды. Второе, что сильно удивило - отсутствие проблем с драйверами (загрузившись в первый раз, подумал "во дурак, дрова для модема кабельного я-то и не скачал, ну сейчас..." - и когда, перегрузившись обратно под винду, я за 15 минут не нашел ничего похожего на драйвер, решил "ну вот, начинается". Однако для контроля я все же загрузился обратно, и обнаружил что драйвера нет потому, что он не нужен - Убунта все сделала за меня).
Из неприятного - для конфигурирования NAT пришлось читать форумы около часа (правда, у меня "десктоп" версия, в "сервер" вроде идут какие-то визуальные тулзы для этого дела), и до сих пор при каждой загрузке нужно вручную выполнить одну команду, что куда вписать для автоматического конфигурирования я не разобрался.
Из очень приятного - софт теперь живет в репозиториях, а не где-то в инете. Такой скорости установки и обновления полезных программ в винде не добиться никакими силами.
Из не очень приятного - WINE работает слабо, пока под него не удается запустить даже миранду.

В целом впечатление позитивное. Красивая и очень удобная в пользовании система, однако с настройкой есть ряд недостатков. Которые мог бы решить хороший "howto" справочник на пару мегабайт, собранный из того же содержимого форума поддержки.

О пользе мордобития

2008-08-07T11:09:48Z

Все-таки умение при необходимости пойти на силовое противостояние очень добавляет психологической уверенности и решимости. И те поступки, которые когда-то мне хотелось совершить, но я не решался, теперь даются намного легче. Едва-ли пару лет назад я бы сделал замечание здоровому взрослому мужику, выбрасывающему мусор в окно маршрутки. И даже не факт, что защитил бы девушку от приставаний пьяного в маршрутке (т.к. девушка не кричала о помощи, но было видно что ей это крайне неприятно... А рядом сидели вполне себе крепкие мужики, в то время как я - чуть ли не в другом конце салона. Что интересно, пьяный оказался вполне даже адекватным, и извинился). Хотя и эти, и многие другие, в целом маленькие, но все же важные поступки совершить безусловно надо было. Если не менять мир вокруг себя - то нечего и надеяться, что он сам собой изменится в целом.

Еще немного музыки

2008-07-11T20:55:49Z

Ничего стоящего в голову не приходит, и в ЖЖ давно не писал... Так что пользуясь случаем выложу еще две импровизации - одну вчерашнюю, и одну чуть ли не 2х-летней давности, которую я похоже нигде не выкладывал, по крайней мере не помню такого :)
http://animeculture.org.ua/3d6_music/impr_11_07_08.mp3 - это новая
http://animeculture.org.ua/3d6_music/impr_14_10_06_HR.mp3 - а это старая, написана под впечатлением саундтрека к Haibane Renmei, и по звуку здорово его напоминает (хотя изначально такой задумки у меня не было).

Самообучение и все-все-все

2008-05-15T13:24:39Z

Наиболее ценным и интересным механизмом мозга является его способность к самообучению. И что самое интересное, эта способность присуща не только мозгу как некоторому единому целому, и даже не каким-то относительно большим участкам мозга как некоторой структуре, а даже отдельному нейрону, точнее нейрону и его набору связей.

Более того, необходимо отметить, что в результате работы этого механизма, структура сознания - это некоторое "отражение" суперпозиции внешнего и внутреннего мира. Или скорее не отражение, а модель. То есть фактически сознание занимается моделированием наблюдаемого мира (в наблюдаемый мир входит также и внутреннее состояние сознания, по крайней мере некоторая его часть).
Получаем такую себе фрактальную структуру - сначала копируем все что есть вокруг (т.к. в себе нет ничего), потом - то что вокруг и то как мы это на прошлом этапе смоделировали, потом снова то что вокруг, но с уже более новой моделью себя - и так до бесконечности. При этом на каком-то этапе мозг доходит до состояния, когда в моделировании задействованы все свободные нейроны (ну, или скорее когда больше не осталось дублирующих нейронов, роль каждого уникальна), однако развитие на этом не останавливается - количество нейронов ограничивает максимальную сложность модели, однако не мешает улучшать уже существующую, не увеличивая сложности.

Кстати, подобное поведение системы возможно может лечь в основу более объективного критерия разумности, чем Тьюринговский. По какому-нибудь соотношению между ролью внешнего и внутреннего миров в эволюции состояния, при выполнении каких-нибудь ограничений на общее число возможных состояний.

P.S. никакой морали пока, мысли вслух...

Немного о мордобитии

2008-05-08T07:18:26Z

После долгого перерыва (более месяца) пошел наконец на тренировку, и прямо на условные спарринги (в корпус и ноги - полуконтакт, в голову - обозначение, сначала с определенной задачей, потом свободные). Сделал два хотя и общеизвестных, но почему-то постоянно вылетающих из головы наблюдения:
1. даже хрупкая девушка весом до 50кг, занимающаяся пару месяцев, может вынести ногу на контрудар так, что я с полминуты не смогу стать на попавшую под него ногу (до сих пор хромаю), практически не пострадав сама при этом.
2. даже 2й дан карате с большим практическим опытом теряется, столкнувшись со связкой из более чем 3х ударов, и нередко последние пропускает.

Мораль N1: надо думать куда бьешь
Мораль N2: надо не думать, а бить, иначе побьют тебя
Мораль N3: совмещение морали N1 и морали N2 - великое искусство...

Brain-computer interface

2008-05-02T18:29:53Z

Недавно случайно наткнулся на интересный результат: http://money.cnn.com/2006/07/21/technology/googlebrain0721.biz2/
- статья очень короткая и популярная, а суть ее вот в чем - парализованному человеку прямо на двигательную кору мозга прицепили небольшой чип (96 контактов), который позволил ему за очень короткое время научиться управлять курсором на экране и нажимать кнопки. В целом о состоянии дел в этой области можно смотреть википедию http://en.wikipedia.org/wiki/Brain-computer_interface - из существенных достижений, там есть чип, позволяющий кое-как видеть слепым людям, тоже путем передачи сигнала напрямую в мозг.

Правда, технология эта пока развивается очень медленно, но можно надеяться что лет через 20 она дойдет до приличного состояния (в последнее время дело пошло быстрее, новых людей активно привлекают - меня вот тоже хотели, но я не дался :) Пока остается открытым вопрос о подобном интерфейсе без хирургического вмешательства, и мне как-то не приходит в голову нормальных вариантов, чтобы совсем без. Однако если за счет использования нанотехнологий (или просто хорошо продуманных микротехнологий) операция сведется к вставке тонкого провода где-нибудь в области шеи, с самостоятельным его развертыванием внутри в контактную сеть, то коммерческое будущее у подобной технологии безусловно появится. Предкоммерческое же развитие вполне может существовать на деньги из выделяемых в помощь инвалидам. Так что в начале 30х годов можно ожидать новое поколение онлайн-игр, обеспечивающих действительно полное погружение :)

Q____Q

2008-04-17T06:02:05Z

Непередаваемая гамма чувств!

Мой реферат по философии

2008-04-11T19:59:01Z

Решил воспользоваться необходимостью написания реферата по философии, чтобы немного упорядочить свои соображения. В оригинальном тексте букв примерно вдвое больше, и примерно половина - выдранные из книг куски, чтобы набрать требуемый объем. Так что оставляю только более интересные части, правда возможно в некоторых местах будет немного нарушена связность, за счет вырезанных кусков.

Введение
В последнее время, в связи со стремительным развитием вычислительной техники, особое значение получил вопрос о возможности (и, в случае положительного ответа, — о методах) создания мыслящих машин. Различные философы современности придерживаются диаметрально противоположных точек зрения на эту проблему — от убеждений в практически полной невозможности копировать механизмы мышления (кроме как, возможно, за счет идентичной биологическому мозгу физической модели), до предложений по методологии исследований, которые должны привести к созданию программ, способных в некотором роде мыслить.

Для успешного решения задачи создания мыслящей машины необходимо непротиворечиво, конструктивно и нерекурсивно определить целый ряд понятий — таких как мышление, сознание, интеллект, и множество связанных с ними (мысль, понимание, и т.д.). Однако, поскольку требуется лишь одно из множества возможных определений, а не абсолютно исчерпывающее, эта проблема вероятно может быть так или иначе решена. В частности, сторонники возможности создания мыслящих машин добились определенных успехов в этом вопросе.
Помимо собственно создания искусственного интеллекта, актуальным является вопрос о том, какое влияние может оказать подобное открытие на отдельного человека, и на общество в целом. Поскольку на данный момент есть некоторая определенность в методах создания мыслящих машин, рассмотрение такого рода вопросов не лишено смысла — если только вообще удастся их создать, примерные характеристики, по крайней мере в первое время, едва-ли будут существенно отличаться от ожидаемых.

1. Искусственный интеллект — pro et contra
Прежде чем обсуждать проблемы, связанные с созданием и развитием искусственного интеллекта, необходимо определить, какой смысл будет вкладываться в это понятие, и насколько вообще реально создание чего-то подобного. Я бы хотел использовать следующее определение, основанное на рассуждениях, которое приводит Хоккинс в [1]: интеллект — это способность к выделению закономерностей в наблюдаемом мире, разделению единого мира на так или иначе выделенные объекты и взаимодействия между ними, а также способность к адекватному внутреннему представлению наблюдаемого мира и моделированию его поведения с целью предсказания последствий тех или иных событий.
Сразу же необходимо провести грань между интеллектом и сознанием. Интеллект — это способность к анализу окружающего мира, сознание же — более широкое понятие, в которое входит анализ и понимание самого себя, и, что еще важнее — мотивация к анализу тех или иных вещей. Вопросы о том, что такое понимание, и что мешает искусственному сознанию, подробно рассматривает Пенроуз в [2], согласно его точке зрения, человеческое мышление связано с пока неизученными квантовыми процессами в мозгу, и поэтому любые попытки компьютерного моделирования обречены на провал. С другой стороны, Хофштадтер в своей работе [3] показывает, как возникает осмысление при выполнении операций формальной логики — которые разумеется доступны машине.
Если говорить о создании искусственного интеллекта, то подходы к решению проблемы о разделении мира на объекты уже в некоторой мере найдены (например, в рамках нейронных сетей), моделирование как таковое — более чем известный подход, остается адекватное внутреннее представление. В этой области пока еще не достигнуты существенные результаты, однако проанализировав направления ведущихся исследований и их состояние, можно прогнозировать заметные сдвиги в ближайшие 10-15 лет. Соответственно при этом возникнет реальная возможность создания системы, по всем параметрам отвечающей приведенному выше определению интеллекта. Возможно, в первое время органы чувств таких систем будут ограничены текстовым вводом (и соответственно реакцией системы будет текстовый же ответ), однако в некотором будущем они непременно получат возможность воспринимать мир так же, как люди, а в дальнейшем — еще более всесторонне.
При этом возникает проблема этического характера — с какого момента можно считать подобную систему искусственного интеллекта личностью, и можно ли вообще? Конечно, одного интеллекта в рассматриваемом смысле для этого недостаточно, нужно полноценное сознание, однако предположим пока, что эту проблему выйдет решить.
Однозначный ответ на вопрос о принципиальной возможности искусственной личности скорее возможен. Для его построения воспользуемся следующим рассуждением: допустим, нам удалось создать электронную (или даже электронно-физическую, если понадобится использование невычислимых физических эффектов) копию человеческого мозга. Тогда, при должном уровне анализа некоторого конкретного человека, мы могли бы задать состояние электронного мозга почти таким же, как состояние мозга этого человека (почти — но не полностью, т.к. точное копирование систем такого масштаба невозможно из-за ограничений квантовой механики). Однако мы можем постепенно корректировать состояние электронного мозга так, чтобы он все время почти повторял состояния живого мозга — и тогда, за некоторое время, электронный мозг начнет вести себя так же, как биологический, с любой требуемой точностью. В результате окажется, что мы имеем два объекта, один из которых по определению является личностью, и демонстрирующих одинаковое поведение (и, что еще более важно — одинаковое изменение внутреннего состояния при внешнем воздействии!). Таким (пусть и весьма специальным) образом, мы создали искусственный интеллект, обладающий личностью.
Однако ответить на вопрос, может ли система, не скопированная с человека, считаться личностью при выполнении каких-либо условий, существенно сложнее. Единственное достаточно однозначное утверждение, которое можно сказать на эту тему, будет фактически переносом теста Тьюринга на данную проблему, а именно: искусственный интеллект может считаться личностью, если другие личности (например, люди, или уже признанные системы ИИ) сочтут его таковым.
Первые системы искусственного интеллекта, с которыми столкнется (и в некоторой мере уже сталкивается) человек, будут заниматься главным образом помощью в обработке информации, и, вероятно, развлекать человека тем или иным образом. Но поскольку обработка информации подразумевает поиск, самостоятельную оценку, и выбор дальнейших направлений поиска согласно оценке, то, в случае системы, способной к обучению и изменению структуры своих представлений, можно говорить о мыслительном процессе, который определяет будущее поведение — т.е. является не только выходом системы, но также и входом для принятия следующего решения. Такая рекурсия, в случае если система будет достаточно адаптивной, приведет к самосознанию — появлению мыслей касательно собственного состояния системы, причем оно возникнет естественным образом: мысли (понимаемые как определенные устойчивые состояния органа мышления) являются такими же объектами на входе (ввиду рекурсии), как и все остальные процессы окружающего мира — поэтому если система способна к нахождению новых объектов снаружи, то она так же будет способна и к нахождению новых объектов внутри.
Впрочем, возможно это рассуждение покажется недостаточно обоснованным — человек понимает что он мыслит, т.е. обладает сознанием, но будет ли искусственный интеллект обладать таким видом понимания, который можно назвать сознанием?
Кроме того, можно привести рассуждение, известное под названием «Китайская комната» [5] (суть которого в том, что можно составить свод правил по манипуляциям с иероглифами, следуя которым можно дать вполне осмысленные ответы на вопросы к заданному тексту, если текст и вопросы также написаны иероглифами).
На первый взгляд пример Китайской комнаты полностью разбивает все надежды на создание мыслящей системы — ведь в процессе столь сложной обработки, которая привела к созданию вроде бы осознанных ответов, ни в одном элементе системы не возникло то, что можно было бы назвать пониманием. Однако на это можно посмотреть с другой стороны: да, действительно, у человека в этой комнате понимания не появилось никакого. Тем не менее, можно утверждать, что книга инструкций, согласно которой выполнялись преобразования, и есть внутреннее представление понимания целого пласта лингвистических особенностей китайского языка. И если бы существовали правила по дополнению и изменению этой книги инструкций, то можно было бы говорить о том, что она и есть «мозг» рассматриваемой системы, у которого есть память, возникают «мысли» (например, если правила преобразования требуют выписывать определенные элементы текста, и рассмотреть их отдельно — такая выписка в сумме с инструкцией по рассмотрению вполне может считаться мыслью), и в случае еще более сложного свода инструкций — ассоциации, логические выводы, и т.п.

2. Закономерность создания искусственного интеллекта

Развитие всего живого идет по пути усложнения структуры: сначала были простейшие одноклеточные, потом возникли простые многоклеточные со слабой специализацией клеток, позднее специализация усилилась, число клеток возросло, и появилась система управления подсистемами. Которая также эволюционировала со все возрастающей скоростью, и в данный момент вершиной ее развития является мозг человека. Естественно было бы предположить, что на этом эволюция не остановится, и будет происходить дальнейшее развитие. Однако какой именно будет следующая ступень?
Чтобы ответить на этот вопрос, обратимся к истории развития нервной системы. Сначала она представляла собой сеть из относительно небольшого количества равноправных нервных узлов. Позднее отдельные узлы начали собираться в нервные центры, у них появилась некоторая иерархия. Далее, центры увеличивались в объеме, и все больше разделялись по исполняемым функциям — контроль движений, метаболизма, обработка информации от органов чувств. Нервная система разделилась на нервные центры в органах, и мозг. Позднее, мозг разделился на спинной и головной, также головной мозг разделился на множество отдельных структур. Из всего этого множества образований, собственно мышление происходит только в одном отделе головного мозга — а именно, в коре, причем ключевую роль в этом процессе играет неокортекс — структура, зачатки которой наблюдаются еще у рептилий. В процессе эволюции неокортекс развивался, приспосабливался к обработке все больших объемов информации на все более сложном уровне, что позволяло более умным животным выживать даже в ситуациях, когда их физически более развитые сородичи погибали. Однако по существу практически ничего не менялось: более приспособленный оставлял следующим поколениям информацию о том, как именно он выжил, только в виде собственных генов.
Но с появлением человека (точнее, с появлением речи у человека) в эволюции произошел принципиальный скачек: следующие поколения стали получать все больший объем информации о том, как выживали их предки, и за счет этого вышли на совершенно другой уровень выживания. Кроме этого, оказалось что неокортекс способен обрабатывать переданный опыт примерно таким же образом, как и полученный организмом непосредственно — за счет этого каждый человек стал фактически сам носителем опыта прошлых поколений, информация стала накапливаться в мозгу, фильтроваться, стало возможным нахождение закономерностей и связей между явлениями, которые данный человек не встречал в своей жизни.
Появление письменности еще больше ускорило процесс эволюции: теперь, после смерти наиболее выдающегося деятеля, результат его трудов не терялся в памяти не столь заметных учеников, а сохранялся для потомков в исходном виде. Печать сделала книги доступными большому числу людей, отлаженный институт почты существенно расширил возможности коммуникации — и, как следствие, стало быстро развиваться и самоорганизовываться научное сообщество.
Появление сети Интернет вывело процесс коммуникации на новый уровень, теперь новые достижения становятся доступны любому желающему практически сразу после опубликования, и в свою очередь публикация стала крайне простым и быстрым процессом. Конечно, у сети есть и свои минусы — например, огромный информационный шум — но на рассматриваемый вопрос это оказывает не слишком большое влияние. Гораздо важнее другой аспект — на данный момент человеческий мозг уже не способен обработать всю создаваемую информацию даже в достаточно узкой области, и со временем ситуация может только усугубляться.
Единственным выходом на данный момент является создание компьютерных систем, которые будут способны анализировать информацию с существенно превосходящей человеческие возможности скоростью, анализировать разнообразные ее аспекты, и выдавать человеку уже обработанные таким образом данные. В некоторой мере эта концепция реализована уже сейчас, в виде поисковых машин с контекстным анализом, и это направление необходимо будет развиваться в дальнейшем. И все усилия будут направлены на то, чтобы такие системы учились выделению закономерностей, нахождению объектов, взаимодействий между ними, а также к адекватному представлению всего найденного во внутреннем, доступном для обработки формате. Т.е. на то, чтобы эти системы приобрели интеллект согласно приведенному выше определению. И кроме этого, подобные системы будут обладать любопытством — поскольку поиск и анализ нового будет являться их основной задачей. Таким образом, в результате комбинации интеллекта и мотивации, будет получена самомотивированная система, обладающая интеллектом, сопоставимым с человеческим.

3. Взаимодействие искусственного интеллекта с индивидуумом и обществом
Мыслящая машина будет создаваться достаточно долгое время, чтобы человеческое сознание успело адаптироваться к новому положению дел: сначала это будут слабоинтеллектуальные помощники в поиске нужной информации, потом они возьмут на себя часть анализа, позднее — это уже практически разумная система, способная в некоторой степени вести диалог, но еще не обладающая полноценным сознанием, и наконец осознающий себя, имеющий собственные цели и стремления искусственный интеллект. Поначалу скорее уступающий во многом человеку, в перспективе же — превосходящий в некоторых областях, и позднее — во всем, или почти всем. Но за счет плавного внедрения в жизнь, можно ожидать что многие вопросы этики, неразрывно связанные с взаимодействием с полноценными мыслящими существами, будут решены непосредственно в процессе общения, и получат какое-либо юридическое закрепление много позднее.
При этом, если только ведущиеся в данный момент исследования не завершатся полным провалом, что достаточно маловероятно с учетом уже имеющихся достижений, можно ожидать, что удастся создать искусственный интеллект со структурой, подобной структуре человеческого мозга. Это будет иметь огромные последствия: биологический (а как следствие, и подобный ему искусственный) мозг обладает огромной адаптивностью. За счет этого можно будет физически срастить искусственный и живой мозг, принципиально расширив возможности человека.
Более того, с эволюционной точки зрения, это единственная возможность для человечества как биологического вида не проиграть искусственному интеллекту в развитии. Ведь возможности электроники неуклонно возрастают, и даже если никаких принципиальных улучшений механизмов мышления придумано не будет, все равно за счет одного только увеличения вычислительной мощности мыслящие машины рано или поздно превзойдут теоретический предел возможностей биологического мозга. Конечно, если искусственный интеллект будет умнее людей, и построен в соответствии с концепцией дружественности (что является совершенно необходимым условием с точки зрения глобальных рисков, как показывает Юдковски в [6]), он не станет уничтожать человечество, или как-либо существенно ограничивать его эволюцию — но едва ли человек смирится с ролью «младшего брата по разуму».
Если же совмещение биологического и электронного мозга произойдет, то такой симбиоз в первую очередь приведет к огромному увеличению роли виртуальной реальности в жизни человека. Уже сейчас в некоторых странах несколько процентов населения значительную часть свободного времени проводят в виртуальных мирах онлайновых игр, но присоединение искусственного мозга повлияет на этот процесс принципиальным образом. А именно, электронный мозг представляет собой идеальный интерфейс с компьютером, позволяющий создавать виртуальные органы чувств для цифрового мира — таким образом делая его настолько же реальным, насколько реален мир физический (ведь с точки зрения нашего мозга реальность — не более чем набор электрических импульсов, исходящих от органов чувств).
Существование в виртуальном мире не ограничено рамками физического, в нем с легкостью может быть воплощен принцип «от каждого по способностям — каждому по потребностям», по крайней мере пока эти потребности лежат в области материального (хотя само слово «материальный», примененное к виртуальному миру, выглядит несколько неоднозначно — но по существу никакой сложности с его определением там нет, т.к. виртуальные органы чувств также будут связаны некоторыми правилами, более-менее аналогичными реальным). В результате следует ожидать принципиального изменения общественного устройства, от господствующей сейчас парадигмы «трудиться, чтобы жить», цивилизация окончательно перейдет к парадигме «жить, чтобы творить». Значительная часть материальных ценностей лишится смысла вообще, большинство же остальных сильно ослабит свое влияние.
Однако общественное сознание обладает большой инерционностью, поэтому можно ожидать появление некоторого количества слабо связанных друг с другом виртуальных миров, копирующих материальные свойства реального мира. Собственно, даже сейчас существует один такой мир, обладающий большой популярностью — в нем насчитывается более миллиона участников — хотя никакого сенсорного восприятия такой мир не дает, соответственно при появлении полноценного чувственного восприятия, можно ожидать что большинство недовольных своим положением в реальном мире, перейдут в виртуальный, причем такой, который в большей мере будет соответствовать их мироощущению.

Выводы
Несмотря на обилие противоречивых аргументов по поводу возможности создания искусственного интеллекта, в последние годы наблюдается определенный прогресс в этом вопросе, и позитивный ответ на данный момент кажется более правдоподобным. В первую очередь это связано с определением понимания, как поддающегося формальному описанию внутреннего состояния мыслящей системы, удовлетворяющего ряду свойств (в частности, понимание значения некоторого слова может быть определено как набор информации об употреблении этого слова совместно с другими, набор маркированных связей этого слова с объектами наблюдаемого мира, и объектами внутреннего мира системы). Это подразумевает понимание мышления как формального процесса по обработке внешнего и внутреннего состояний, с изменением последнего таким образом, чтобы включить в него адекватную модель внешнего мира.
Также приведены аргументы в пользу того, что создание искусственного интеллекта является естественным шагом на пути к дальнейшему развитию человечества, а совмещение возможностей биологического и электронного мозга — наиболее эффективным способом развития человека как вида.

Список литературы
1.Джон Хоккинс, «Об интеллекте», 2004
2.Роджер Пенроуз, «Новый разум императора», 1989
3.Дуглас Р. Хофштадтер, «Гедель, Эшер, Бах», 1979
4.Иванов Е.М. «К проблеме "вычислимости" функции сознания», 1999
5.Джон Серль, «Разум, мозг и программы», 1980
6.Юдковски Е., «Искусственный интеллект как позитивный и негативный фактор глобального риска», 2006

Большой Брат и ИИ

2008-03-04T21:43:47Z

Немного подумав, кажется вполне вероятным, что служба безопасности некоторых крупных стран вроде России или США при желании могла бы получить полный доступ к логам например icq-разговоров (да и любых других подобных систем) жителей если не всей страны, то по крайней мере значительной ее части. Другое дело, что на данный момент им это в целом без надобности - не посадишь же миллион сотрудников СБ круглосуточно читать весь бред, проходящий через подобные сети.
Однако купить миллион компьютеров, или же собрать суперкомпьютер соответствующей мощности - это уже куда более посильная задача.
И посадить миллион экземпляров ИИ, занимающихся относительно базовым анализом смысла, с целью нахождения мест концентрации антигосударственных, террористических, или еще каких нежелательных идей - это уже совсем другое дело. Если потом наиболее интересные результаты уже глазами будут вычитывать в соответствующем отделе несколько сотен сотрудников, то можно вполне даже неплохо проконтролировать если не серьезные организации (которые наверное все же будут учитывать возможность наличия подобного анализа), то хотя бы отдельных излишне социально активных индивидуумов.
Читать можно все подряд - ЖЖ, форумы, почту... Вспоминается картинка с сообщением об ошибке "Ваше сообщение невозможно отправить, т.к. сотрудник ФСБ, проверяющий вашу почту, временно отсутствует на рабочем месте" и единственной кнопкой "Слушаюсь!"...

ИИ и естественный язык

2008-02-25T18:28:22Z

Проблема понимания естественного языка искусственным интеллектом делится на несколько более-менее отдельных, а именно:
1. Разбор предложения на составляющие
2. Выделение стандартных шаблонов высказываний
3. Построение эквивалентного исходному внутреннего представления фразы
4. Обработка фразы механизмом мышления (который функционирует вне зависимости от наличия внешних фраз, просто таковые вызовут изменения в динамике мыслей)
5. Синтез фразы-ответа из полученной мысли (или, возможно, набора фраз-кандидатов в ответы, из набора активных мыслей)
6. Проверка синтезированной фразы на корректность с учетом контекста, возможно выбор другой фразы.
Из этого пункты 1 и 6 уже в значительной мере реализованы, или по крайней мере понятно каким образом могут быть реализованы.
Пункты 2 - 5 уже неразрывно связаны с понятием "мысли" в такой системе.
Насчет того, каким образом можно представлять мысли, и как они могут эволюционировать:
В качестве отправной точки возьмем некоторый набор понятий и связей между этими понятиями, который позволяет некоторым образом описать каждое из них через какие-то другие (хотя и неизвестно, насколько полным является такое описание, но другого просто нет). Введем операцию добавления/уточнения понятия: если некоторое слово появляется с меткой уточнения (встречается фраза вида "сепульки - это ...", "сепульки состоят из ...", и т.п., что именно входит в уточнение, и в какой степени, изначально определяет человек на этапе проектирования системы, позднее эта операция может модифицироваться путем применения к самой себе), то связи с уже известными объектами, обнаруженные в данной фразе, добавляются в систему (как и сам новый объект), с определенными весами, определяемыми целой кучей факторов (конкретный вид фразы, мера доверия собеседника к данной фразе, мера доверия к собеседнику, и прочее).
При появлении устойчивых корреляций между какими-то объектами (формируемых по правилу Хебба: если какие-то понятия активируются одновременно, между ними надо проложить связь), могут возникать новые понятия, представляющие собой комбинации уже имеющихся (как например "абстрактное понятие").
Что есть мысль в таком случае - я определенно ответить не могу. Сейчас мне кажется, что это некий граф, у которого часть вершин совпадает с описанным множеством, а часть - объединяет подгруппы других вершин в единые понятия. Однако мои попытки выразить это понятие более точно пока что упираются либо в слабую общность, либо в очевидно излишнюю громоздкость результата.
Как устроен механизм мышления в общем виде - также совершенно неясно, но если задаться внешней целью (одной из списка: оценить истинность утверждения, ответить на вопрос о свойствах некоего объекта, группы объектов, или связях объекта с другими, найти/построить связь между двумя объектами/группами объектов), задаться неким контекстом беседы (повысить активность определенной группы понятий, создать временные понятия, специфичные для уже состоявшейся части разговора, и т.п.), то можно попробовать достичь этих целей за счет перетекания активностей понятий по имеющимся связям, и поиска среди активных понятий структур, подходящих под структуру результата (которую для всех перечисленных типов целей можно задать в более-менее общем виде).
Над синтезом фраз из полученных мыслей пока не думал. Предположительно, даже простой вывод мысли в виде соответствующего графа будет более-менее понятен человеку, так что решение задачи можно оставить до момента получения разумных мыслей на выходе :)

NeuroConveyor

2008-02-12T20:41:14Z

Я довольно давно не писал в ЖЖ, в основном потому, что все это время я писал на С++ :) Итак, с гордостью представляю диаграмму классов НейроКонвеера (который в моих мечтах представляется мне популярным OpenSource проектом... Когда-нибудь потом....). Сие чудо вычислительного программостроения было написано лично мной за 3 недели с нуля, и на данный момент находится в полностью рабочем состоянии (более того, ровно сейчас считает одну задачку, сгенерив уже 5 метров отчета, вследствие чего я и пишу здесь, а не играю в Q3 - процессор будет занят еще 2-3 часа...). С его помощью я буду пробовать собрать правильную рекуррентную сеть, о которой так долго говорили большевики :)
А вот виновник торжества:

О роли эмоций

2008-01-27T09:29:15Z

Отношение "хорошо-плохо" по сути является наиболее базовым мыслеобразующим фактором. "Плохо" - это стимул к действию, изменению состояния, начиная с анализа (выяснить что плохо), проходя через постановку задач (все что плохо - надо исправить), их решение (найти что будет хорошо, найти путь от "плохо" к "хорошо") и воплощение в жизнь. В принципе, есть еще разные категории "хорошо" и "плохо", но для подробного их анализа у меня не хватает знаний в области психологии, и в общих чертах это вроде не особо важно.
Так вот, в чем мысль - если в процессе решения некоторой задачи мы будем все подсознательно всплывшие возможные элементы ее решения оценивать на предмет хорошо/плохо применительно к данной ситуации - на это не хватит никаких ресурсов, мозг вообще не слишком силен в анализе. Соответственно до стадии анализа нужно каким-то образом отфильтровать кандидаты в решения. Если на каждое такое решение мы повесим ярлык "хорошо/плохо" еще в тот момент, когда в первый раз с ним столкнулись, то в будущем можем им воспользоваться для априорного отсечения "плохих" вариантов (а в случае если не отсекли - модифицировать ярлык с учетом новых результатов анализа). У такого подхода как всегда есть преимущества и недостатки. Преимущество - можно перебрать очень много решений (широкий спектр из самых разных областей деятельности), тем больше, чем более сильное отсечение мы производим. Недостаток - можно пропустить вполне хорошее в данной ситуации решение, т.к. ярлык "плохо" был навешен вследствие каких-либо случайных обстоятельств.
Это все я веду к вопросу о "женской логике" :) Используя сильное эмоциональное отсечение, можно строить решения задач с использованием совершенно неожиданных на первый взгляд элементов. В некоторых случаях решение, построенное при слабом отсечении (т.е. с использованием гораздо более ожидаемых элементов), может оказаться лучше, в некоторых - хуже, однако в любом случае человек, использующий слабое отсечение, не сумеет понять логику человека с сильным отсечением: для него построение подобной связи необходимо требует нескольких промежуточных звеньев, которые ему непременно покажутся отсутствующими, а сам вывод - нелогичным.