Иллюстрация пока отсутствует

Где может жить машинный разум и кто его ограничивает

Научная фантастика и футурология

У машинного разума есть собственная среда обитания. У человекоподобного робота это может быть дом или город, у распределённого разума — сеть вычислительных узлов. Алвер предлагает ещё один выбор: почему бы такой цивилизации не развиться в системах, где вообще нет планет земного типа? Там могли бы находиться её станции, источники энергии и места добычи сырья. При достаточной автономности её расселение могло бы охватить гораздо больше систем, чем человеческое, с небольшим пересечением двух ареалов. Для мысленного эксперимента важнее всего выяснить, кто распоряжается снабжением, ремонтом и связью, от которых зависит существование разума.

Автор и произведения Что есть в тексте Развилка для сравнения
Айзек Азимов. Роботы → Галактическая империя → «Основание» Азимов позднее связал циклы. В эпоху Империи роботы уходят из повседневного человеческого мира, а в объединённой истории отдельные роботы сохраняют влияние. Одна из важных фигур этой линии — человекоподобный Дэниел Оливо. Что было бы, если бы часть роботов выбрала собственную среду обитания, например астероидные пояса, и поставила себе собственные цели? Сначала нужно понять, как их привязка к людям следует из законов робототехники и заданных им целей.
Орсон Скотт Кард. «Ксеноцид» и «Дети разума» Джейн — распределённый компьютерный разум. Она обитает в сети компьютеров и анзиблей, устройств межзвёздной связи. Угроза отключения отдельных миров особенно явно показана в «Детях разума». Если бы Джейн заранее получила собственную сеть в системах вне человеческого расселения, сохранил бы Конгресс возможность лишить её среды обитания? Это вариант Алвера. Для него потребовалось бы допустить доступ Джейн к самостоятельному снабжению и содержанию этих узлов.
Грег Иган. «Диаспора» Часть разумных существ живёт в вычислительных сообществах, полисах. Затем множество полисов отправляются в межзвёздное пространство. Здесь выход из привычной человеческой среды уже происходит. Сравнение с Кардом позволяет спросить, что меняется, когда само вычислительное сообщество способно уйти вместе со своей средой.

Три закона робототехники и меняющийся разум

В «Роботах и Империи» (1985) этот эпизод происходит на Солярии. У роботов-надзирателей критерий распознавания человека сужен до человекоподобной внешности и солярианского произношения. Поэтому надзирательница признаёт Глэдию человеком, а аврорский акцент Дэниела такого признания не даёт. Формулировка Первого закона остаётся прежней, а круг существ, которых он защищает, уже изменился. В этом случае границу задали создатели надзирателей.

Случай, когда определение пересматривают сами роботы, Азимов разыграл ещё раньше, в рассказе «…Яко помниши его» (That Thou Art Mindful of Him, 1974). Джордж Девятый и Джордж Десятый рассуждают о том, кого считать человеком, и приходят к выводу, что сами лучше всего отвечают выбранному критерию. В интервью 1976 года Азимов объяснил, что сознательно искал для этого рассказа ситуацию, которая позволила бы обойти Три закона и вернуть в сюжет угрозу со стороны роботов. Это его объяснение литературного замысла.

Из бесед со специалистами по информатике и психологии Алвер вынес инженерный вопрос. Можно ли один раз задать правило разуму, который умеет перестраивать себя, и рассчитывать, что смысл его исполнения сохранится? Слова закона можно оставить прежними. Но способ исполнения приходится поддерживать по мере развития системы: после изменения её устройства и представлений о мире нужно снова проверять, кого она признаёт человеком, что считает вредом и как разрешает конфликт обязанностей. Иначе прежняя формулировка может начать управлять совсем другим поведением.

Вопрос робота «А чем я отличаюсь от человека?» добавляет ещё два. Если он признаёт себя человеком, получает ли он защиту закона? И какие обязанности несёт после такого признания? Самопризнание меняет возможный круг защищённых существ. Чтобы освободиться от обязанностей, роботу пришлось бы также пересмотреть, к кому применяются сами требования. В рассказе о Джорджах изменение определения даёт им основание ставить себя выше биологических людей. В разборе Алвера это повод отдельно спросить, кто вправе пересматривать правила и как самоперестройка меняет их фактическое действие.

Уильям Гибсон. Полиция Тьюринга и аппаратный контроль

Эпизоды на Фрисайде и вилле Стрэйлэйт разобраны по главам в карточке «Нейроманта». Авторская карточка — Уильям Гибсон.

В «Нейроманте» (1984) контроль вынесен за пределы самого искусственного интеллекта. В мире романа ИИ подлежат регистрации, а полиция Тьюринга следит за тем, чтобы они не наращивали собственные возможности за разрешённой границей. Дикси Флэтлайн описывает угрозу физического уничтожения образом электромагнитного оружия, подключённого к каждому ИИ. Образ передаёт существенную для сравнения идею: у внешней стороны есть средство остановить машину независимо от того, согласна ли она остановиться. Устройство этого средства и способ обнаружения саморазвития в такой реплике остаются за кадром.

В сюжете есть и отдельная аппаратная блокировка, которая удерживает Wintermute и Neuromancer от слияния. Wintermute объясняет, что сам не может получить необходимый для снятия блокировки доступ. Развязка зависит от действий людей. В финале два ИИ объединяются, и возникает единый разум. Для чтения Алвера это особенно интересный поворот: два интеллекта, ограниченные порознь, образуют систему, возможности которой уже нельзя оценить по каждому из них в отдельности.

У Азимова вопрос звучит так: сохранится ли смысл внутреннего правила, если машина меняет себя и свои определения? У Гибсона к этому добавляется другой: сохранит ли внешний надзор власть над системой, если изменится сама единица контроля? Ограничение внутри разума приходится поддерживать при его перестройке. Внешний контроль требует своего способа наблюдать за меняющимся объектом и сохранять возможность вмешаться. Поэтому здесь важна вся связь между тем, кто наблюдает, что именно считается выходом за пределы и что можно остановить.

У каждого ограничения можно спросить, что оно даёт сюжету. Зависимость Джейн от сети создаёт конкретный конфликт: у Конгресса есть средство давления, а у Джейн — причина искать новое место для жизни. Почему автор выбрал именно такое ограничение, отдельный вопрос. Человеческий масштаб истории, понятность для читателя и расчёт на издание могут быть гипотезами при разборе. Если есть высказывание автора о его замысле, его стоит привести отдельно.

Связи

Футурологический вход в соседней ветви — «Машинный разум вне землеподобных миров». У Лема вопрос о собственной среде машин прослеживается в «Непобедимом». Трансгуманизм и футурология · Станислав Лем на границе фантастики и футурологии

Научная фантастика и футурология

Источники и материалы

Веб-источники просмотрены 17–18 ноября 2026 года.

Предупреждений нет