Примечания к книге "Искусственный интеллект и универсальное мышление"

Дочитал я тут неделю назад книгу Потапова про ИИ http://polytechnics.ru/shop/product-details/213-potapov-a-s-iskusstvennyj-intellekt-i-universalnoe-myshlenie.html.

Книга занятная, представляет из себя обзор методологий построения ИИ с последующим описанием того, почему они не работают. Имеют место вкрапления философии, психологии, биологии.
Трудно порекомендовать её массовому читателю (зубодробительная матчасть, да и само чтение заняло почти 2 месяца), зато осиливший может считать себя находящимся в курсе того, чем живёт предметная область.
Пока читал, оставлял некоторые заметки на полях; оставлю их здесь, чтобы не потерялись. Некоторые из них пронумерованы - это страницы, к которым они относятся, остальное - мысли на тему вне чтения.

• В чем различие нейронной сети и конечного автомата?
• Наши образы в памяти не только сложны, но и связаны друг с другом.

276 Память не запись, а интерпретация. Мы не храним информацию как есть, а преобразовываем во внутреннее представление.
336 Задача дедукции более связана с обучением.
397 Кто-то занимался генерацией музыки с помощью нейронных сетей?
407 ИИ можно научить эстетике, но не смыслу. Хотя мы больше привыкли к музыке без смысла, чем к абстрактной живописи.
431 Яндекс придумал язык из emoji, но их недостаточно для абстрактных понятий.
443 Разобщённость дедукции и индукции дают нестабильность системы ИИ; они как две игральные карты, которые не стоят на ребре сами по себе, но устойчивы, если прислонить их друг другу "домиком".
448 Проблема в том, что не все можно описать словами. Значит, ИИ тоже нельзя строить только на словесных описаниях.
475 Возможно, компьютерам нужны другие принципы восприятия. Дело только ли в органах чувств, либо необходимо восприятие комплексных образов?
475 В контексте ИИ игра в ассоциации имеет гораздо более глубокий интерес - мы перемещаемся между образами и только потом облекаем их в слова; при этом каждая ассоциация не абстрактная.
483 Есть часть установок, заложенных эволюционно; значит, без обучения с учителем не обойтись.
483 Что если построение ИИ это задача, принципиально не решаемая задача в короткий срок? Нам придётся стать эволюцией, поощряя и наказывая за каждый шаг. Это потребует огромных человеческих ресурсов. Можно облечь это в игровую форму - мы же любим эксперименты.
500 Мы запоминаем только самое важное, сворачивая все остальные подробности; при необходимости восстанавливая картину с некоторой долей достоверности. Это нечётко, но эффективно.
501 Интересно, что игра в ассоциации не сводится к перебору синонимов. Сможет ли человек долго играть в ассоциации сам с собой?
505 Мы помним больше, чем кажется, но вспомнить можно только по свёрнутому ключу.
521 Для реализации адаптивного поведения необходимо собирать абсолютно всю информацию о мире, потому что не известно, что может понадобиться, а это будет иметь значение. Так же могут меняться и любые свойства агента случайным образом. Все должно быть гибко и случайно. Чем ближе симуляция к реальности, тем больше параметров; в определённый момент станет проще вынести испытания в физический мир (привет, GladOS!).
523 Нет ли примеров переобучения в реальном мире? Есть, это стереотипы, косность мышления, когнитивные искажения.
539 Можем ли мы обучить ИИ тому, чего не умеем сами? Проблема учителя в обучении с учителем.
554 Если ген кодирует больше одного признака, не удивительно, почему существует физиогномика. Мы учимся этому индуктивно.
564 Вундеркинды не взлетают, потому что никто не знает, что с ними делать, когда заканчивается учёба и начинается реальная жизнь. Многие ли знают, что делать со своей жизнью?
565 Принципиальная проблема - строгий ИИ создать нельзя, а нестрогий будет ничем не лучше нашего.
576 Интуиция — это неосознанный поиск по дереву решений?
587 С тех пор, как победил разум, физическое здоровье и превосходство уже не являются определяющими факторами эволюции.
587 Наши попытки построить ИИ - немасштабируемые решения, это слишком большая задача для того скромного набора частных решений, что есть в нашем распоряжении.
591 Главное направление эволюции не разум, а рентабельность.
593 Составление предложений как игра в шахматы - мало знать правила, надо ещё и закладывать смысл.
617 То, что не стремится к равновесию - не система.
634 Загнать в Wolfram|Alpha данную функцию и послушать её.
637 Как будут звучать фракталы?
647 Естественный язык тоже неоптимальная эволюционно устойчивая стратегия.
685 У каждого человека свой внутренний язык сложных образов; как и у компьютера, который мы понимаем только через человеческий язык.
707 Что мы хотим от ИИ - создание мышления, подобного человеческому или решения задач в общем случае?

• Замкнутость тезисов "сознание определяет бытие" и "бытие определяет сознание" обуславливает устойчивость системы. Или я путаю причину и следствие? Или путаница - ещё одно доказательство этой идеи?
• Мозг рассчитан на определённое количество лет жизни, дальше не хватит памяти. Условно, когда тебе 200 лет, то это как 60, только в детстве была старость. И не будет никого, кто имел бы схожую проблему.
• Какие ещё базовые признаки мы получили эволюционно (помимо безусловного стремления выжить)? Защитные механизмы сознания.
• Любые сигналы — это тоже язык.

Комментарии: 7
Drama_Queen
Мне кажется ,отличия человеческого мышления и восприятия от искусственного,и так понятны без подобной литературы,а если ещё брать в расчет ,то что человеческий интеллект и все остальное бывает разного уровня,и прогресс искусственного интеллекта на месте не стоит,то такого рода литература может от части перестать быть актуальной как пособие
Sovet-ne_nuzhen
Есть такая книга - "Голем XIV"...
...
...попунктно по пометкам:
475 - совершенно верно.К компьютеру можно подключить сенсоры, воспринимающие больше, чем человеческие органы чувств, - так зачем делать из него заведомого инвалида?
475 - конечно. У человека за этим процессом помимо инстинктов и привычек, насколько я помню, стоят в первую очередь личный опыт и культура - какая культура нужна разумной машине, чтобы её мышление (будучи собранным по подобию человеческому) не отличалась сильно от человеческого?
483 - без учителя можно, но результат можно будет получить только случайно. Увы, мы сами не обладаем восприятием компьютерных интеллектов и вряд ли сможем эффективно обучать искусственные разумы... без искусственных же "переводчиков".
521 - нет. "правильно"-"неправильно"-"нужно больше информации"-"не релевантно на данный момент"
523 - не знаю (пока) контекста, но предположу, что ещё чрезмерно сильные перерживания делают это неконтролируемо, в отличие от перечисленных способов

Я заинтригован, надо почитать.
Спасибо!
Mirage_LoI
Вокруг проблемы ИИ слишком много философии. Работать надо, и все будет.
nevoa
Интересно)
Мне кажется, что сейчас ИИ создается больше как помощник, но в будущем превзойдет своего создателя. Даже по такой вроде как мелочи, как скорость принятия решений. Человеческий мозг очень медленный.
Понравились цитаты со страниц 276, 576, 593
404 - смысл ИИ может синтезировать сам, исходя из базовых данных. Цель = смысл
Мозг, мне кажется, расчитан на определенный обьем (извините, на клавиатуре телефона нет твердого знака))) информации. Интенсивность нагрузки на орган определяет продолжительность его существования).

Drama_Queen
Цитата:
Мозг, мне кажется, расчитан на определенный обьем (извините, на клавиатуре телефона нет твердого знака))

Такого быть не может))),ты его наверное просто не нашла)),а что за телефон??
В айфоне надо нажать на " ь" знак,и сверху вылезет "ъ"
nevoa
Drama_Queen, не может, это точно). Но у меня может быть все что угодно, как показывает практика.
После вашего комментария начала нажимать на все подряд и нашла таки злополучный твердый знак))
Drama_Queen
nevoa правильно, метод тыка ,самое оно))

Добавить комментарий

Имя:
Комментарий:
Текст
Вставка
Шрифт
размер
Введите пожалуйста число с картинки:
Незарегистрированные пользователи не могут видеть свои приватные комментарии.