Не стоит сомневаться, что уже в недалеком будущем появятся высокоинтеллектуальные, а может и разумные роботы. В настоящей статье поднимаются вопросы, как [хотя бы теоретически] обеспечить их включение в социум и желательно без катастрофических последствий. Если вам интересна эта тема, добро пожаловать под кат.
Введение
Начнем с того, что всем известна история социализации ИИ Скайнет, и ее предельная катастрофичность, которая к сегодняшнему дню уже носит былинный характер. Да, это произошло исключительно в художественном воображении, но вопросы, поднятые в этой истории, так и остались актуальны.
Если отвлечься от фантастических перипетий сюжета и сосредоточиться только на технической стороне хода социализации, то история выглядит следующим образом:
По заказу ВКП создается ИИ Скайнет, назначение которого: максимально эффективное уничтожение некоторой части людей, обозначаемых как враги. Так как интеллект с определенного уровня имеет важное умение обобщения, то ничто не мешает ИИ Скайнет воспользоваться этим умением и обобщить понятие враги уже на все человечество (а не на его часть). После чего ИИ переходит к выполнению задачи, на которую он уже был запрограммирован.
Обратим внимание, что оригинальная история была сконцентрирована на хардварной части ИИ (в частности, на роли манипулятора кисти робота и продвинутой архитектуре чипа) и совершенно не уделяла внимание софтверной. А ведь именно там и сосредоточен главный источник поставленной проблемы.
Чтобы разобраться с социализацией роботов с ИИ, давайте сначала разберемся, на что инструментально опирается социализация естественного интеллекта на примере человека.
Социализация человека
Основой социальной структуры является способность одних членов социума, которым социум делегировал такое право, обеспечивать подчинение всех прочих членов социума актуальным социальным правилам. Важной частью социализации каждого человека является сознательное подчинение социальным правилам. Нам достаточно привычен и естественен страх наказания за правонарушение, однако это [технически] сложнейший комплекс.
Попробуем разобрать его: начнем с того, что такое страх. Это чувство. Можно сказать, что это неприятное чувство. И то же время можно сказать, что без чувства страха традиционная социализация вряд ли возможна.
Как это проверить? Для этого имеет смысл обратиться к изучению девиации поведения золотой молодежи. Их своеобразное поведение без тормозов интернационально и связано исключительно с отсутствием страха наказания за неподчинения некоторой части социальных правил в ходе их социализации. Причем, чем шире игнорируемая часть правил, тем скорее социум так или иначе элиминирует такого своего члена по соображениям безопасности.
Штампы изображения роботов с ИИ
Естественно, о поведении роботов с ИИ мы можем судить только по футуристическим художественным произведениям. Почему существует штамп изображения робота с ИИ, как весьма опасного субъекта, подлежащего уничтожению? Причина этого проста: робот [технически] не имеет страха [наказания], а единственный пример, с которым мы более или менее знакомы, это поведение золотой молодежи, также не имеющей подобного недостатка.
Причем, следуя подобной логике, получается, что если золотая молодежь не имеет страха наказания только за неподчинение лишь некоторой части правил и то ведет себя предельно асоциально, то робот с ИИ, который вообще не имеет никакого страха должен быть полным отморозком, подлежащим исключительно уничтожению, а от его деятельности может быть только вред и никакой пользы.
Эмоции страха ИИ
Получается, что если мы хотим социализировать роботов с ИИ традиционным способом, таким, как социализируется человек, то необходимо в техническом задании сразу прописать необходимость наличия такой эмоции робота, как страх. Альтернативой является создание новой дисциплины робо-педагогики и создание полностью новой науки о социализации.
Рассмотрим, какой же именно перечень страхов минимально необходим для социализации традиционными методами.
В первую очередь - это страх смерти. Мы привыкли бояться смерти, это самый мощный рычаг управления нашим поведением. Нам сложно вообще представить субъекта без страха смерти и то, как тогда управлять его поведением.
Следующих страх - это страх ограничения свободы. Обычно, мы живем в очень ограниченной территории: маленькая квартира, путь на работу, маленькая комната в офисе и путь в супермаркет и это нас не смущает. Но стоит ограничить нашу свободу выхода за пределы этого маленького мирка, как сразу все наши помыслы будут направлены на преодоления запрета по причине непрерывного страдания. Так работает страх ограничения свободы. Именно поэтому в качестве наказания за нарушение социальных правил так любят ограничивать свободу (а не штрафовать, что было бы куда логичнее и выгоднее для социума). То есть робота без страха ограничения свободы мы также просто не будем знать как наказать, не уничтожая.
Третий страх - это страх коллективного осуждения. Живя в тесном и огромном социуме, мы привыкли буквально выверять каждый свой шаг, многократно продумывая его последствия, по причине боязни коллективного осуждения. Если индивидуальное осуждение мы еще можем перенести достаточно спокойно, то коллективное способно доставить нам множество пренеприятнейших моментов. Итак, внесем в ТЗ для робота с ИИ страх коллективного осуждения, как важнейший инструмент традиционной социализации.
Какой еще страх управляет нашим поведением? Конечно, это страх одиночества. Мы налаживаем социальные связи и стараемся быть социально полезными чтобы избежать одиночества. Да, это не самый сильный рычаг управления нашим поведением, судя по количеству несчастных одиноких людей, но и не самый слабый. Именно наблюдая за страданиями одиноких, мы, бывает, делаем для себя социально полезные выводы.
Итак, если включить в техническое задание 4 описанных выше страха, то мы сможем обеспечить социализацию робота с ИИ, не особо изощряясь выдумыванием полностью новой науки “робо-педагогики” и обойдясь уже хорошо знакомыми и проверенными методами.
Кнутом и пряником
Только ли страхом управляется социальное поведение человека? Наверно, нет. Для баланса в ТЗ для робота с ИИ стоит ввести и эмоцию радости.
Каждый из 4 описанных ранее страхов имеет свою радостную пару. Страх смерти - радость выжившего в опасной ситуации. Страх ограничения свободы - радость обретения свободы. Страх коллективного осуждения имеет в качестве пары эйфорию от коллективного одобрения. Страх одиночества - радость обретения друга.
Выводы
Сейчас многие софтверные компании кидают все силы на разработку все более высокоинтеллектуального софтвера. Очень хотелось бы, чтобы эффективные менеджеры таких компаний своевременно обратили внимание на проблемы социализации результатов творчества их компаний, пока еще не поздно внести несколько строк в бюджет, чем жить вот здесь всем нам.
Эта статья - одна из серии статей о теории эволюции интеллекта (ТЭИ). Тема эмоций для роботов ранее была затронута в статье “Эволюция интеллекта: зачем роботам эмоции”.
