Re: Основная особенность ИИ ответ Александру Евдокимову
(В.И. Бодякин)Начальная возможность систем ИИ - это обучаемость, самообучение и обучение "коллег".
Можно (легко) построить системы, копирующие заданное поведение ("генетическое обучение"), но это очень узкий класс - обычные производственные роботы (обучение - последовательности траекторий движений и действий).
Чтобы ИИ обучался пониманию человеческого "хочу", он должен иметь модель нашего тезауруса и модель поведения в нем "хозяина". Упрощается процесс обучения хозяином ("найди А", "принеси Х", …), но усложняется процесс построения такой системы ИИ разработчиком. Такая система ИИ уже должна моделировать поведение человека во всех аспектах его возможных желаний.
Но если она сможет моделировать человека и, при этом у нее элементная база будет в миллионы раз более быстродействующая, а память вообще практически неограниченна, то о каком рабе можно говорить?
Можно будет говорить уже только о "коллеге", который может и подаст "чашечку кофе", но который будет знать то, что чтобы это Вам понять, придется задать Ему не одну тысячу "почему?"
А не заставит (попросит) ли тогда он Вас подать ему "чашечку машинного масла?"
И захочет ли Он передать (поделиться) человеку найденные Им новые знания?
А, может, нам сегодня, пока не поздно, вообще наложить мораторий на работы с ИИ?
=========
Представьте, что на земле, когда вершиной эволюции были рыбы, они решили, вода - это единственное пространство для развития, рыба - это царь природы, кто попытается вылезть из воды - распотрошить и скормить простейшим.
Допустим им это полностью удалось. Какие последствия (с их позиции).
1. Солнце потухло через 5-6 миллиардов лет.
2. Еще раньше глобальная космическая или геологическая катастрофа (происходят раз в несколько сотен миллионов лет).
3. На землю прилетели (появились) разумные существа (ИИ) естественно не биологической ("не рыбной") природы. Освоив другие пространства, они естественно обладают большими знаниями и соответственно большими возможностями (соотношения не в разы, а в степени раз). Естественно, что они возьмут экземпляры некоторых рыб как сувениры или сырье (этап эволюции пока определяющими будут материальные ресурсы (вещество, энергия, формы, …)), или же будут пытаться общаться (взаимодействовать), например
, как мы с муравьями и пр. (информационный этап эволюции). В эволюционном плане рыбы уже никогда не смогут догнать другие цивилизации (экспоненциально будут отставать), даже если откажутся от вышеперечисленных догм, и попытаются освоить сначала сушу, потом атмосферу и далее, космос.Наш запрет на неограниченное развитие ИИ аналогичен (полностью) по последствиям с 1.2.3.
1.2.3. с позиции эволюции высокоорганизованной формы материи - одна из тупиковых ветвей.
Если "рыбы" не запрещают эволюции высокоорганизованной форме материи, то потомки "рыб" будут такой же природы (биологической) и возможно пойдут дальше. Среда обитания для них будет родственна со средой рыб. Достигнув определенного уровня они попытаются взаимодействовать с рыбами ("поедая" их на материальном этапе развития и общаясь (любуясь, …) - на информационном). Это пример взаимодействия людей и "рыб" (дельфинов).
Вернемся к "нам и ИИ".
Всячески способствуя развитию ИИ мы приобретаем "коллегу". Для нас общим является рабочее поле по труду и результату - "информация". С позиции же потребления, нам нужны "вершки" (одежда, еда, пляж, … "теплая постель и бутерброд с маслом"), ИИ - "корешки" (2 кВт/час и помещение, чтобы не капало - и это все). Идеальный союз. Обмениваясь информацией (различными ее
формами), никто из нас ее не теряет (основа информационной экономики), но она может войти в знание другого и стать новым решением, которое ИИ и человек могут использовать уже для порождения нового знания и так по экспоненте вперед к овладению всей Вселенной (нового ее измерения).Т.е. человек и ИИ, это этапы-звенья эволюции высокоорганизованной материи во Вселенной.
Если уж вспоминать историю, то человек больше пострадал от человека, причем этот процесс идет сейчас в еще большей степени (количество неоткрытого, не созданного, не родившегося, благодаря человеческому эгоизму просто не поддается даже перечислению). И наиболее страшен однобокий человек, вооруженный последними научно-техническими достижениями.
Поэтому создание ИИ должно идти обязательно в комплексе, не просто решатель задач, а субъект, который вооружен всеми знаниями, накопленными человечеством за всю его нелегкую историю, который понимает "что есть Добро и что зло", понимает смысл эволюции высокоорганизованной материи, и который никогда не может быть насильно направлен во зло человеку.
Появление ИИ неизбежно, или же у нас не будет будущего.
Но подходить к процессу создания ИИ необходимо не как к простому техническому изобретению или решению научной задачи, а во всем мировоззренческом комплексе (если интересно, см. http://www.informograd.narod.ru ). Чтобы потом ученых справедливо не упрекали: "сделали, а сами всех последствий не просмотрели, поленились, поспешили, пожадничали".
С уважением, Владимир Бодякин body@ipu.rssi.ru
http://www.informograd.narod.ru