Научная фантастика и футурология
У машинного разума есть собственная среда обитания. У человекоподобного робота это может быть дом или город, у распределённого разума — сеть вычислительных узлов. Алвер предлагает ещё один выбор: почему бы такой цивилизации не развиться в системах, где вообще нет планет земного типа? Там могли бы находиться её станции, источники энергии и места добычи сырья. При достаточной автономности её расселение могло бы охватить гораздо больше систем, чем человеческое, с небольшим пересечением двух ареалов. Для мысленного эксперимента важнее всего выяснить, кто распоряжается снабжением, ремонтом и связью, от которых зависит существование разума.
| Автор и произведения | Что есть в тексте | Развилка для сравнения |
|---|---|---|
| Айзек Азимов. Роботы → Галактическая империя → «Основание» | Азимов позднее связал циклы. В эпоху Империи роботы уходят из повседневного человеческого мира, а в объединённой истории отдельные роботы сохраняют влияние. Одна из важных фигур этой линии — человекоподобный Дэниел Оливо. | Что было бы, если бы часть роботов выбрала собственную среду обитания, например астероидные пояса, и поставила себе собственные цели? Сначала нужно понять, как их привязка к людям следует из законов робототехники и заданных им целей. |
| Орсон Скотт Кард. «Ксеноцид» и «Дети разума» | Джейн — распределённый компьютерный разум. Она обитает в сети компьютеров и анзиблей, устройств межзвёздной связи. Угроза отключения отдельных миров особенно явно показана в «Детях разума». | Если бы Джейн заранее получила собственную сеть в системах вне человеческого расселения, сохранил бы Конгресс возможность лишить её среды обитания? Это вариант Алвера. Для него потребовалось бы допустить доступ Джейн к самостоятельному снабжению и содержанию этих узлов. |
| Грег Иган. «Диаспора» | Часть разумных существ живёт в вычислительных сообществах, полисах. Затем множество полисов отправляются в межзвёздное пространство. | Здесь выход из привычной человеческой среды уже происходит. Сравнение с Кардом позволяет спросить, что меняется, когда само вычислительное сообщество способно уйти вместе со своей средой. |
Три закона робототехники и меняющийся разум
В «Роботах и Империи» (1985) этот эпизод происходит на Солярии. У роботов-надзирателей критерий распознавания человека сужен до человекоподобной внешности и солярианского произношения. Поэтому надзирательница признаёт Глэдию человеком, а аврорский акцент Дэниела такого признания не даёт. Формулировка Первого закона остаётся прежней, а круг существ, которых он защищает, уже изменился. В этом случае границу задали создатели надзирателей.
Случай, когда определение пересматривают сами роботы, Азимов разыграл ещё раньше, в рассказе «…Яко помниши его» (That Thou Art Mindful of Him, 1974). Джордж Девятый и Джордж Десятый рассуждают о том, кого считать человеком, и приходят к выводу, что сами лучше всего отвечают выбранному критерию. В интервью 1976 года Азимов объяснил, что сознательно искал для этого рассказа ситуацию, которая позволила бы обойти Три закона и вернуть в сюжет угрозу со стороны роботов. Это его объяснение литературного замысла.
Из бесед со специалистами по информатике и психологии Алвер вынес инженерный вопрос. Можно ли один раз задать правило разуму, который умеет перестраивать себя, и рассчитывать, что смысл его исполнения сохранится? Слова закона можно оставить прежними. Но способ исполнения приходится поддерживать по мере развития системы: после изменения её устройства и представлений о мире нужно снова проверять, кого она признаёт человеком, что считает вредом и как разрешает конфликт обязанностей. Иначе прежняя формулировка может начать управлять совсем другим поведением.
Вопрос робота «А чем я отличаюсь от человека?» добавляет ещё два. Если он признаёт себя человеком, получает ли он защиту закона? И какие обязанности несёт после такого признания? Самопризнание меняет возможный круг защищённых существ. Чтобы освободиться от обязанностей, роботу пришлось бы также пересмотреть, к кому применяются сами требования. В рассказе о Джорджах изменение определения даёт им основание ставить себя выше биологических людей. В разборе Алвера это повод отдельно спросить, кто вправе пересматривать правила и как самоперестройка меняет их фактическое действие.
Уильям Гибсон. Полиция Тьюринга и аппаратный контроль
Эпизоды на Фрисайде и вилле Стрэйлэйт разобраны по главам в карточке «Нейроманта». Авторская карточка — Уильям Гибсон.
В «Нейроманте» (1984) контроль вынесен за пределы самого искусственного интеллекта. В мире романа ИИ подлежат регистрации, а полиция Тьюринга следит за тем, чтобы они не наращивали собственные возможности за разрешённой границей. Дикси Флэтлайн описывает угрозу физического уничтожения образом электромагнитного оружия, подключённого к каждому ИИ. Образ передаёт существенную для сравнения идею: у внешней стороны есть средство остановить машину независимо от того, согласна ли она остановиться. Устройство этого средства и способ обнаружения саморазвития в такой реплике остаются за кадром.
В сюжете есть и отдельная аппаратная блокировка, которая удерживает Wintermute и Neuromancer от слияния. Wintermute объясняет, что сам не может получить необходимый для снятия блокировки доступ. Развязка зависит от действий людей. В финале два ИИ объединяются, и возникает единый разум. Для чтения Алвера это особенно интересный поворот: два интеллекта, ограниченные порознь, образуют систему, возможности которой уже нельзя оценить по каждому из них в отдельности.
У Азимова вопрос звучит так: сохранится ли смысл внутреннего правила, если машина меняет себя и свои определения? У Гибсона к этому добавляется другой: сохранит ли внешний надзор власть над системой, если изменится сама единица контроля? Ограничение внутри разума приходится поддерживать при его перестройке. Внешний контроль требует своего способа наблюдать за меняющимся объектом и сохранять возможность вмешаться. Поэтому здесь важна вся связь между тем, кто наблюдает, что именно считается выходом за пределы и что можно остановить.
У каждого ограничения можно спросить, что оно даёт сюжету. Зависимость Джейн от сети создаёт конкретный конфликт: у Конгресса есть средство давления, а у Джейн — причина искать новое место для жизни. Почему автор выбрал именно такое ограничение, отдельный вопрос. Человеческий масштаб истории, понятность для читателя и расчёт на издание могут быть гипотезами при разборе. Если есть высказывание автора о его замысле, его стоит привести отдельно.
Связи
Футурологический вход в соседней ветви — «Машинный разум вне землеподобных миров». У Лема вопрос о собственной среде машин прослеживается в «Непобедимом». Трансгуманизм и футурология · Станислав Лем на границе фантастики и футурологии
Научная фантастика и футурология
Источники и материалы
- The Encyclopedia of Science Fiction, «Asimov, Isaac». Справка о позднем объединении циклов и роли роботов. Статья
- Айзек Азимов, Robots and Empire, 1985. Эпизод на Солярии и последующее объяснение Дэниела. Библиографическая запись, эпизод в русском переводе
- Айзек Азимов, That Thou Art Mindful of Him, 1974. Рассуждения Джорджа Девятого и Джорджа Десятого. Библиография журнала, русское название и аннотация, интервью Азимова от 20 октября 1976 года
- Уильям Гибсон, Neuromancer, 1984. Полиция Тьюринга, объяснение аппаратной блокировки и слияние двух ИИ. Реплика Дикси о внешнем ограничении в статье The New Yorker, эпизод разговора с Wintermute, разбор финала и слияния
- Орсон Скотт Кард, Xenocide и Children of the Mind. «Ксеноцид» у издателя, «Дети разума» у издателя, справка Tor о сети компьютеров и анзиблей
- Грег Иган, Diaspora. Изложение сюжета и библиография на сайте автора
Веб-источники просмотрены 17–18 ноября 2026 года.
