Ответ: на письмо А.А.Жданова "Интеллектуальные агенты" (В.А. Непомнящих)

>Если мы действительно хотим искусственным образом воспроизвести
>естественный интеллект, то вынужденно получим естественные его следствия:
>именно - свободу воли (хочет - отправит Ваше письмо, хочет - не отправит),
>вообще тягу к свободе, стремление решать в первую очередь свои собственные
>задачи, а не те, которые ему приказывают, и т.д. Если же мы хотим построить
>электронного раба, который бы выполнял только нашу волю, то моделирование
>естественного интеллекта здесь не при чем! Раб может быть любым. Делайте
>его как хотите, все способы хороши. Т.е. мы лукавим - не ИИ хотим построить,
>а очередного раба. Увы...

Самые лучшие наши агенты на сегодняшний день - это "естественные интеллекты":
кошка ловит мышей, а собака охраняет дом. Делают они это не потому, что
мы им это приказываем или учим этому. Они это делают, потому что это
свойственное им адаптивное поведение - охотиться или охранять свою территорию.
Т.е. для автономного искусственного агента должно быть адаптивным то поведение,
которое нам нужно. Не мы ему должны давать задание, а он сам должен стремиться
к тому, что нам нужно.

Конечно, поведение модели естественного интеллекта не может быть полностью
предсказуемо. Например, киберкошка начнет таскать рыбок из аквариума.
Но это просто показывает, что автономные агенты, имитирующие естественный
интеллект, подходят не для всех задач - как и любые другие агенты.