"Китайская комната" и искусство перевода

[aptsvet]

Известный британский математик Алан Тьюринг придумал известный тест, названный его именем: как определить, мыслит ли машина, вернее, обладает ли она сознанием. То есть, не тот компьютер, конечно, на котором я это пишу, а гипотетическая машина будущего, когда будет реализован проект "искусственного интеллекта" (На профессиональном жаргоне Strong AI).

Согласно Тьюрингу, если вы беседуете с машиной произвольное время и не можете уличить ее в том, что она - не человек, то существование сознания доказано. Эксперимент строится так, что помимо информации, которой вы обмениваетесь в ходе беседы, у вас нет никаких других данных о собеседнике, то есть тембра голоса и пр.

Как бы верно, но остается неприятный осадок, потому что в "голове" у этой машины вы так и не побывали. Мы, конечно, не можем залезть в голову и человеческому собеседнику, но тут мы уже судим по аналогии с собой, а у машины, скорее всего, мысли какие-нибудь железные и бездуховные.

Американский философ Джон Серл построил мысленный эксперимент, позволяющий буквально проникнуть в "голову" машине - и опровергающий тест Тьюринга. Как ни странно, в этом эксперименте, который получил название "китайская комната", роль машины исполняет человек.

Человек сидит в изолированной комнате с двумя щелями, в одну из которых подаются, один за другим, китайские иероглифы на карточках. Человек в комнате китайского не знает, но перед ним на столе лежит толстая книга с подробными инструкциями, как реагировать на каждый иероглиф. В соответствии с этими инструкциями он выбирает из лежащего перед ним набора другие иероглифы и опускает их в другую щель. Иероглифы, подаваемые в щель, представляют собой задаваемые по-китайски вопросы, опускаемые в другую щель - ответы на эти вопросы. При этом никаких мыслительных процессов, относящихся к существу беседы, в голове человека не возникает, и когда он покидает комнату, его познания в китайском остаются нулевыми.

Сторонники Strong AI, в свою очередь, пытаются опровергнуть "китайскую комнату", и некоторые из их аргументов звучат довольно убедительно, но я не стану углубляться в эти философские дебри, потому что речь, собственно, идет о художественном переводе. Если в двух словах, то я хочу сказать, что слишком часто переводчик подобен человеку, сидящему в "китайской комнате".

Поводом к этим размышлениям явилась небольшая и, надеюсь, в целом безвредная стычка с одним юзером, человеком вполне образованным и артикулированным, но весьма резко отозвавшемся об одном из моих любимых писателей, Соле Беллоу. Поскольку он, скорее всего, читал Беллоу по-русски (что в дальнейшем подтвердилось), я решил проверить, с чем он, в принципе, мог иметь дело. Дальнейшие мои рассуждения к этой истории отношения не имеют, а релевантность "китайской комнаты" через пару минут станет очевидной.

Я, естественно, залез к Мошкову и стал там шарить. Помимо всякого мелкого мусора (это особый предмет для раздражения, потому что свидетельствует о полной бестолковости выбора объектов для перевода - тут еще вспоминается нуднейшая и давно забытая трилогия Фолкнера о Сноупсах, почему-то переведенная первой в советские времена), я обнаружил там "Дар Гумбольдта" - надо бы Хамболта, конечно, потому что речь идет об американце, а не о немецких мудрецах, ну да пусть, это уже придирка. Роман - один из лучших у Беллоу, хотя и не самый мой любимый. Имени переводчика называть не буду, пусть это будет абстрактный русский переводчик.

Подчеркну, что говоря о переводчике или вообще о переводчиках, я имею здесь в виду профессиональных и в целом знающих переводчиков, а не поденщиков, переводящих бригадным методом поп-макулатуру. И действительно, я начал читать роман, и все как бы гладко. Но роман длинный, и читать мне его по-русски скучно, а тем более сверяя с оригиналом. Тогда я придумал короткий путь и прокрутил всю ленту до примечаний. И волосы начали медленно вставать дыбом.

Не буду нагромождать этих деталей, приведу только пару самых ужасных. При этом я исхожу из предположения, что примечания сделаны самим переводчиком, другой логичной версии придумать не могу. Вот что, к примеру, сразило меня наповал.

"Шапиро, Карл (р. 1913) -- американский поэт и эссеист, автор знаменитых "Поэмы еврея" и "В защиту невежества". Возможно, в какой-то степени послужил прототипом Фон Гумбольдта Флейшера в романе".

Возможно, внутри земного шара есть еще другой шар, значительно больше наружного. Но маловероятно. Практически везде, где просто упоминается название романа, сразу же упоминается, что прототипом для главного героя послужил поэт Делмор Шуорц (Шварц для любителей уродовать американские имена), друг и наставник автора, и этому герою приписаны многие детали биографии Шуорца. И спутать одного с другим - все равно, что спутать палец с другим предметом мужской анатомии, не буду лезть в подробности. И не могу взять в толк, в каком бреду переводчику это привиделось. Нужно ли добавлять, что "знаменитых" "Поэмы еврея" и "В защиту невежества" я не только сам никогда не читал, но не знаю ни одного человека, которых их читал бы.

Ну и еще один перл для убедительности.

"Токвиль,  Алексис  (1805--1859)  --  французский   политик  и  историк, критиковал с консервативных позиций американскую демократию".

Уж не поэтому ли Токвиль стоит на полках любого американского книжного магазина чуть ли не рядом с Библией и его беспрестанно цитируют все консервативные и патриотические американские авторы? Похоже, Токвиль в голове переводчика поменялся местами с Кюстином, а Америка - с Россией. Токвиль, действительно, был французский аристократ, настроенный консервативно и контрреволюционно, и отправился в Америку с целью покритиковать эту республику холопов. Но в результате он написал настоящий гимн американской демократии, хотя и с вкраплениями очень прозорливой критики.

Не буду больше загромождать и без того пространный пост фактиками, потому что этих двух мне достаточно чтобы понять, что перевод читать не стоит. Он сделан человеком, не понимающим, что за книга у него в руках и в какой стране она написана. Мы снова попадаем в "китайскую комнату". Переводчик может очень неплохо владеть английским языком, но роль "китайского" здесь играет американская культура, о которой переводчик не имеет никакого понятия как входя в комнату, так и покидая ее. Перевод делается с выключенным сознанием, машиной, которая ничего в нем не понимает.

Самым чудовищным преступлением в этом жанре я считаю встречу Раскольникова-Пастернака со старушкой-Шекспиром, но тут я лучше заткнусь, потому что от ярости все равно потеряю дар речи. А вообще-то таких случаев гораздо больше, чем подозревают читатели, не имеющие возможности или времени проверить.

Comments

[vsopvs.livejournal.com]

> у машины, скорее всего, мысли какие-нибудь железные и бездуховные

у некоторых людей - тоже :)

По сути, общаясь с людьми, мы все время, всегда, постоянно проводим этот тест Тюринга. Тюринг своим тестом сказал три вещи, по-моему:

1. Интеллектом мы "наделяем" собеседника, не важно кто это, человек или машина. Наделяем в том смысле, что это мы решаем, есть ли у собеседника интеллект.

2. Интеллект - это континуум, про него можно говорить "больше/меньше", но есть определенный минимум. Новорожденный интеллесктом точно не обладает. Двухлетний ребенок - до некоторой степени. Собачки кое-что понимают, видимо ... Так и с машинами (будет).

3. Если нечто "себя ведет" так, что кажется, что у "него" есть интеллект - значит он есть, и тут уже не важно из чего он сделан.

"Китайская комната" Сёрля в этом плане ничего не меняет. В этом мысленном эксперименте две главных ошибки Сёрля состоят в следующем:

1. Его главный вопрос - "Где же там интеллект находится, раз человек китайского не знает?" Когда мы нажимаем клавишу на клавиатуре компьютера, последовательность событий, приводящих, в конечном счете к появлению символа на экране, достаточно сложна. Каждый из элементов, участвующих в этой последовательности, с одной стороны необходим, с другой - "ничего не знает" ни про символы, ни про клавиатуру.

Где-то там процессор достает таблицу символов из памяти, эдакий китайский словарь. Сказать, что эта таблица обладает способностью показывать буковки на экране - так же неправильно, как сказать, что китайский словарь обладает интеллектом. В то же время в комплексе компьютер "умеет" показывать буковки при нажатии клавиш ... Где это умение? Да везде, в системе, как и разум.

2. Большая проблема с "китайской комнатой" - в том, что в модели Сёрля нет динамической памяти. Никакой словарь не заменит интеллект, если устройство не способно "усваивать" текущие события и использовать их в последующем поведении (включая разговор). "Китайская комната" - это комьютер, несомненно. Но в том виде, в котором она предложена Сёрлем, о ней не стоит и говорить, кроме как в том смысле, о котором я упомянул выше.

А переводы, особенно в последние годы, действительно пошли отвратительные. К сожалению переводы на английский мне попадались тоже очень плохие ... Я тут по поводу перевода "Письма генералу Z", опубликованного в NEw Yorker (!) даже разразился некоторой критикой (http://www.webvalue.com/vs/text/Z.html)

[aptsvet.livejournal.com]

Я ведь не пытаюсь здесь подать "китайскую комнату" как истину в последней инстанции. Я читал опровержение Деннета, но Деннет, подобно Вам, тоже разлагает сознание на элементы, и в конечном счете у него получается, что оно вообще миф, включая наше собственное, и что сознание - это просто поведение. Он пытается мне доказать, что меня нет. То есть, я привираю, конечно, у него тоньше, но сухой остаток примерно таков: координационный центр поведения. Но это долгий разговор.

Да я встречал переводы на английский, в том числе американские, которые были ужасны, но знаю и блистательные, и немало. Но там ведь совершенно другая практика: многие вещи, которые этого заслуживают, переводятся снова и снова, и не обязательно каждый раз лучше, но некая ассимптотичность постепенно вырисовывается. В России же иначе: как-нибудь перевели и забыли. Или, что проще, не перевели и забыли.

[vsopvs.livejournal.com]

я не великий поклонник Деннета (Пинкера, стати - тоже). Я, как раз, думаю, что сознание есть. Другое дело, что это явление - системное. На мой взгляд сознание, как таковое, очень сильно связано с самонаблюдением и моделированием. Минимальная система с элементами самонаблюдения в минимальном смысле обладает минимальным сознанием :)

Термостат, например.

Я в свое время на эту тему много написал довольно, но не буду Вас утомлять моими дурацкими текстами, скажу кратко: компьютер наблюдает свою температуру и включает вентилятор, когда процессор перегревается. В дополнение к этому он может (легко!) произнести "Ух, жара!" Или закричать вполне натурально.

Понимаете, к чему я? Вовсе не пытаюсь сказать, что компьютер обладает интеллектом и сознанием. Но идея именно такая: модель внутри, "каков я должен быть". Параметры реальные сравниваются с заданными ... ну и так далее. К этому много чего надо добавить, и самопрограммируемость, и обучаемость, и черта в стуле.

В результате получится non-computable монстр со свободной волей :)

[aptsvet.livejournal.com]

Вы все-таки описываете поведение, и я не понимаю, чем эта модель отличается от предлагаемой Деннетом. И какая свобода воли, когда здесь чистый детерминизм? Добавить-то, конечно, можно много чего, но Пенроуз утверждает, что того, что Вы действительно хотите добавить, в природе не существует.

[vsopvs.livejournal.com]

разница в том, что, на мой взгляд, сознание существует объективно. Повторюсь - оно является континуумом, присутствуя и у птичек, и у зверюшек. Деннет, по сути, занимает бихевиористскую позицию. Я - нет. Сознание существует, заслуживает изучения, моделирования и изготовления. Хотя зачем - непонятно :)


> Пенроуз утверждает, что того, что Вы действительно хотите
> добавить, в природе не существует.

я могу ошибаться. Пенроуз - человек очень умный :) Аргументов у меня толком нет, мнение есть.

[aptsvet.livejournal.com]

Да, я понимаю, о чем Вы, и в чем-то согласен насчет птичек и зверюшек, много лет наблюдая за кошкой, а прежде имев амазонского попугая - вот это был Эйнштейн. И тем не менее, существует строгое определение сознания, качественный скачок между человеком и животными, и у животных сознания нет, хотя и есть мысли. Не хочу лезть в эти дебри, приведу лишь определение человека, данное Ницше (точной формулировки не помню): человек - это животное, способное давать и держать обещания.

А Пенроуз, конечно, человек чудовищного ума, втайне я считаю его самым умным из всех ныне здравствующих. Но все, что он утверждает - это ведь только правдоподобные гипотезы. Хотя, на мой взгляд, более правдоподобные, чем у AIшников.

[vsopvs.livejournal.com]

у меня целых два попугая: http://www.webvalue.com/vs/img/063002/vs014L.jpg наглые и злобные оба. В плане интеллекта - оба поумней меня будут, причем каждый по-отдельности :)

> качественный скачок между человеком и животными,
> и у животных сознания нет

ну я не согласен с Вами никак, я там два раза сказал "континуум", помните? Мне кажется, мы точки зрения друг друга хорошо поняли. Зафиксируем несогласие - это даже хорошо, а то когда все согласны - скучно :)

[aptsvet.livejournal.com]

Тут на Вашу мельницу - у воронов и, возможно, у собак, есть "теория разума", то есть как бы даже сознание.

http://www.nytimes.com/2005/09/04/magazine/04IDEA.html?adxnnl=1&pagewanted=all&adxnnlx=1126200659-jCZy5+xtWWGO8fKLX60lBA

[vsopvs.livejournal.com]

Спасибо, интересная статья. Я читал что-то подобное про воронов, считается, что они - самые умные птички :) В общем, у меня это пополам, отчасти по результатам чтения, отчасти - интуиция, что разум - вещь протяженная, вопрос степени.

Конечно, никто не станет спорить, что человек - качественный скачок, но это не отменяет других качественных скачков: между комаром, который совсем похож на робота, и птичкой или собакой, про которых можно сказать, что у них есть "стратегия" в жизни ... Даже развлечения :)

Кроме того, от человека вверх тоже можно представить себе качественные скачки, согласитесь. Было бы смешно, если бы мы оказались такие уж самые умные. Глядя на то, что происходит вокруг - как-то не похоже :)

[vagonsky.livejournal.com]

Простите, что вмешиваюсь посреди разговора, но это определение сознания никуда не годится. Хотя бы потому, что в него заранее вложено, кто только им и может обладать.
А обещания вполне могут давать собаки, например.

[aptsvet.livejournal.com]

И еще. В определение сознания через "теорию разума" (за точными надо на самом деле лезть в Серла или Деннета, лень) объект опреледения вовсе не включен заранее, теоретически это может быть землеройка или пылесос. И статья в NYT (линк выше) насчет воронов вполне подтверждает это.

[vsopvs.livejournal.com]

Не могу с Вами согласиться по поводу переводов. Во-первых, в России была замечательная переводческая школа, и переводили по многу раз одно и то же, и добивались блистательных результатов (хотя я, честно, не думаю, что это процесс асимптотический).

То, что сейчас происходит, называется емкими словами "бардак" и "разврат". Я купил дешевый томик Лермонтова, недавно изданный - количество опечаток ошеломляющее. В Штатах я наблюдаю то же самое в дешевых изданиях. Уровень прозы в New Yorker - ниже плинтуса. Я не знаю немецкого, но недавно читал перевод с немецкого на английский - там не требуется знание оригинала, чтобы увидеть, что перевод любительский ...

Будем надеяться, что в России (как и в Штатах) в море хлама останутся жемчужины :)

[aptsvet.livejournal.com]

Я бы скорее порадовался, если бы в России изменили систему перевода, приблизив ее к западной. Ассимптотичность для Вас, наверное, не очевидна, потому что Вы не наблюдали ее вблизи. А я несколько лет преподавал в американском колледже русскую литературу - переводов классики множество, и постепенно видишь, что перемены все-таки к лучшему.

[vsopvs.livejournal.com]

остается только сказать - Вам видней :)

[shvarz.livejournal.com]

Если нечто "себя ведет" так, что кажется, что у "него" есть интеллект - значит он есть, и тут уже не важно из чего он сделан.

Вот я, собственно, к точно такому же выводу пришел: http://www.livejournal.com/users/shvarz/53089.html#cutid1

[aptsvet.livejournal.com]

Так думал Тьюринг. Но Серл указывает на разницу, очень фундаментальную, между моим интеллектом и Вашим. Я полагаю, что Вы обладаете интеллектом не просто потому, что Вы ведете себя как некто, обладающий интеллектом, а потому что я по аналогии предполагаю внутри Вас тот же процесс, который наблюдаю внутри себя. В философии сознания одним из фундаментальных понятий является гипотетическая идея "зомби" - гипотеза о существовании таких существ, которые могут вести себя как носители интеллекта, но "внутри" которых ничего нет - именно того, что я непосредственно ощущаю в себе, хотя тут можно оступиться в Декарта.

Серл доказал, что феномен "зомби" возможен в случае машины. Неважно, доказал ли окончательно. Что касается Ваших соображений, то почитаю их завтра, а то ночь уже.

[vsopvs.livejournal.com]

да, я прочел Ваш текст там - во многом согласен. Свобода воли, как определяющий момент интеллекта ... Это для меня немного неожиданно, хотя это хорошо соответствует тому, что я там писал про "вести себя". У меня это, однако, следствие. У Вас - основной признак. Не знаю ... что-то в этом есть :)

[shvarz.livejournal.com]

Не знаю, дошли ли вы до комментариев. Я там ниже уже сам нашел ошибку в своих рассуждениях - мы не можем однозначно определить, имеет ли кто-либо (кроме нас самих) свободу воли. О том же и aptsvet пишет - идея "зомби" ставит под сомнение любой критерий, какой бы мы ни придумали. В результате все упирается в нашу веру в то, что кто-либо обладает свободой воли. Только в нее...

[vagonsky.livejournal.com]

А как мы можем определить, что имеем свободу воли? На самом деле не можем, поэтому свободу воли, мне кажется, вообще бессмысленно привлекать как аргумент. В нее можно верить. :)
А интеллект - это функции.