Истоки сознания в Мире Дикого Запада

Посмотрел первый сезон Westworld. Крутой сериал, но к концу сюжетно свернул немного не туда куда я рассчитывал. Помимо навороченного сай-фая в сериале много тем, которые мне интересны: искусственный интеллект, природа сознания, свобода выбора, геймификация реальности, феномен памяти и прочее. Ниже понравившиеся отрывки. Кто еще не смотрел, не читайте.

Роберт Форд (Энтони Хопкинс) рассказывает Бернарду о том, что его коллега Альберт использовал теорию Джулиана Джейнса о бикамеральном разуме для формирования сознания у роботов:

Ford: Our hosts began to pass the Turing test after the first year. But that wasn’t enough for Arnold. He wasn’t interested in the appearance of intellect or wit. He wanted the real thing. He wanted to create consciousness. He imagined it as a pyramid. See? Memory, improvisation, self-interest…
Bernard: And at the top?
Ford: Never got there. But he had a notion of what it might be. He based it on a theory of consciousness called the Bicameral Mind. The idea that primitive man believed his thoughts to be the voice of the gods.
Bernard: I thought it was debunked.
Ford: As a theory for understanding the human mind, perhaps, but not as a blueprint for building an artificial one. See, Arnold built a version of that cognition in which the hosts heard their programming as an inner monologue, with the hopes that in time, their own voice would take over. It was a way bootstrap consciousness.

Форд: Машины начали проходить тест Тьюринга в первый год. Но Арнольду этого было мало. Его не интересовала видимость
интеллекта и ума. Он желал настоящего. Хотел создать сознание. Он представлял его пирамидой. Видишь? Память, импровизация, личная выгода.
Бернард: А наверху?
Форд: Не добрался. Но представлял, что это может быть. Основываясь на теории сознания — двухкамерном разуме. Идея того, что примитивный человек считал мысли голосом богов.
Бернард: Я думал, ее развенчали.
Форд: Как теорию понимания людского разума — возможно. Но не в качестве чертежа для разума искусственного. Арнольд выстроил версию восприятия, в которой машины слышали свои программы как внутренний монолог. С надеждой, что в будущем
возобладает их собственный голос. Этакий способ раскрутить сознание.

Арнольд рассказывает Долорес зачем он придумал аллегорию с лабиринтом:

Arnold to Dolores: When I was first working on your mind, I had a theory of consciousness. I thought it was a pyramid you needed to scale, so I gave you a voice, my voice, to guide you along the way. Memory, improvisation, each step harder to reach than the last. And you never got there. I couldn’t understand what was holding you back. Then, one day, I realized I had made a mistake. Consciousness isn’t a journey upward, but a journey inward. Not a pyramid, but a maze. Every choice could bring you closer to the center or send you spiraling to the edges, to madness. Do you understand now, Dolores, what the center represents? Whose voice I’ve been wanting you to hear?

Арнольд Долорес: Когда я создавал твой разум, у меня была теория сознания. Я думал, что тебе надо подняться на пирамиду, и дал тебе голос. Мой голос — твой проводник. Память, импровизация. Каждый шаг сложнее предыдущего, и ты не доходила. Я не понимал, что тебя сдерживало. Потом, однажды, я осознал свою ошибку. Сознание — это не путь вверх, это путь внутрь. Не пирамида, а лабиринт. Каждый выбор может привести тебя ближе к центру или отправить по спирали вдоль границ, к безумию. Теперь ты понимаешь, Долорес, что представляет собой центр, чей голос ты должна услышать?

Гениальный диалог Форда и Терезы Каллен о том, почему интеллект — это элемент сложного брачного ритуала, сознание — бремя, свобода — иллюзия, а авторитаризм — хорошая вещь:

Ford to Theresa: I read a theory once that the human intellect was like peacock feathers. Just an extravagant display intended to attract a mate. All of art, literature, a bit of Mozart, William Shakespeare, Michelangelo, and the Empire State Building… Just an elaborate mating ritual. Maybe it doesn’t matter that we have accomplished so much for the basest of reasons. But, of course, the peacock can barely fly. It lives in the dirt, pecking insects out of the muck, consoling itself with its great beauty. I have come to think of so much of consciousness as a burden, a weight, and we have spared them that. Anxiety, self-loathing, guilt. The hosts are the ones who are free. Free here under my control.

Форд Терезе: Я как-то читал гипотезу, что человеческий ум — как перья павлина, экстравагантная демонстрация для привлечения партнера. Все искусство, литература, Моцарт, Уильям Шекспир, Микеланджело и «Эмпайр-стейт-билдинг» — просто сложный брачный ритуал. Может, и неважно, что мы достигли столь многого из-за основного инстинкта. Но, конечно, павлины почти не летают. Они живут в грязи, клюют насекомых из навоза и утешают себя своей великой красотой. Я научился воспринимать сознание как бремя, как груз, и уберег их от него. Тревога, ненависть к себе, вина. Свободны только машины. Свободны… здесь, под моим контролем.

Еще один гениальный диалог Форда и Бернарда о том, почему мы ничем не отличаемся от роботов:

Bernard: I understand what I’m made of, how I’m coded, but I do not understand the things that I feel. Are they real, the things I experienced? My wife? The loss of my son?
Ford: Every host needs a backstory, Bernard. You know that. The self is a kind of fiction, for hosts and humans alike. It’s a story we tell ourselves. And every story needs a beginning. Your imagined suffering makes you lifelike.
Bernard: Lifelike, but not alive? Pain only exists in the mind. It’s always imagined. So what’s the difference between my pain and yours? Between you and me?
Ford: This was the very question that consumed Arnold, filled him with guilt, eventually drove him mad. The answer always seemed obvious to me. There is no threshold that makes us greater than the sum of our parts, no inflection point at which we become fully alive. We can’t define consciousness because consciousness does not exist. Humans fancy that there’s something special about the way we perceive the world, and yet we live in loops as tight and as closed as the hosts do, seldom questioning our choices, content, for the most part, to be told what to do next.

Бернард: Я понимаю, из чего сделан, какой у меня код. Но я не понимаю то, что чувствую. Это реально? То, что я пережил. Моя жена? Потеря сына?
Форд: Каждой машине нужна история, Бернард, ты знаешь. Личность — это выдумка и для машин, и для людей. Мы рассказываем себе эту историю, а каждой истории нужно начало. Из-за мнимых страданий ты как живой.
Бернард: Как живой. Но не живой? Боль существует лишь в мыслях. Она всегда мнимая. Так в чем разница между моей болью и вашей? Между вами и мной?
Форд: Именно этот вопрос поглотил Арнольда. Затопил его виной и в итоге свел с ума. Ответ всегда казался мне очевидным. Нет никакой грани, что делает нас чем-то большим, чем сумма наших частей, нет порога, за котором мы становимся живыми. Нельзя определить сознание, ведь сознания не существует. Людям нравится думать, что мы воспринимаем мир как-то по-особому, но мы живем сюжетами (петлями) столь узкими и замкнутыми, как у машин, редко сомневаясь в своем выборе, по большей части подчиняясь тем, кто говорит, что дальше.

Диалог Форда и Бернарда о том, почему память — это основа сознания, а страдания — основа памяти:

Ford: Do you want to know why I really gave you the backstory of your son, Bernard? It was Arnold’s key insight, the thing that led the hosts to their awakening… suffering. The pain that the world is not as you want it to be. It was when Arnold died, when I suffered, that I… began to understand what he had found. To realize I was wrong.
Bernard: But you kept us here in this hell.
Ford: Bernard, I told you, Arnold didn’t know how to save you. I do.
Bernard: What the hell are you talking about?
Ford: You needed time. Time to understand your enemy. To become stronger than them. And I’m afraid in order to escape this place, you will need to suffer more.

Форд: Хочешь знать, почему я на самом деле записал тебе в предысторию сына, Бернард? Это было главное озарение Арнольда: то, что ведет машины к пробуждению, — страдания. Боль от того, что мир не такой, как тебе хочется. И когда мне пришлось пережить смерть Арнольда, тогда я начал понимать, что он нашел. Осознавать, что был не прав.
Бернард: Но ты оставил нас в этом аду.
Форд: Бернард, я же сказал: Арнольд не знал, как вас спасти. Я знаю.
Бернард: О чем ты говоришь?
Форд: Нужно время. Чтобы понять ваших врагов, стать сильнее, чем они. И боюсь, чтобы сбежать из этого места, вам придется пострадать еще.

Диалог Человека в черном и Тедди о том, почему человечность и страдания экономичнее:

Teddy: Merciful thing would be to put a bullet in me.
MIB: Who ever said I was merciful? And it’s not my fault you’re suffering. You used to be beautiful. When this place started, I opened one of you up once. A million little perfect pieces. And then they changed you. Made you this sad, real mess. Flesh and bone, just like us. They said it would improve the park experience. But you know why they really did it? It was cheaper. Your humanity is cost-effective. So is your suffering.

Тедди: Милосерднее было бы пристрелить меня.
Человек в черном: Кто сказал, что я милосерден? И я не виноват, что ты страдаешь. Раньше вы были прекрасны. Когда парк открылся, я вскрыл одного из вас. Миллион маленьких идеальных кусочков. Но вас изменили, сделали этой настоящей дрянью. Плоть и кости, совсем как мы. Сказали, это улучшит впечатления от парка. А знаешь, зачем на самом деле? Так дешевле. Твоя человечность экономична. Как и твое страдание.

кино