Винер Норберт. Акционерное общество "Бог и Голем"

МОСКОВСКИЙ  ГОСУДАРСТВЕННЫЙ  ИНСТИТУТ  
МЕЖДУНАРОДНЫХ ОТНОШЕНИЙ (УНИВЕРСИТЕТ) МИД РОССИИ

     Кафедра конституционного права 
 

                       Тема :

«Винер Норберт. Акционерное общество "Бог и Голем" ». 
 
 
 
 
 
 

Выполнил: Студент 4-го курса, группы №3 международно-правового факультета, Кистерёв Александр Валерьевич. 

Преподаватель: Половченко Константин Анатольевич, к.ю.н. 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Москва-2011 
 

Введение: 

     Пару  слов об авторе: американский учёный, выдающийся математик и философ, основоположник кибернетики и теории искусственного интеллекта. Норберт Винер был профессором Гарвардского, Корнельского, Колумбийского, Брауновского, Геттингенского университетов, написал сотни статей по теории вероятностей и статистике, по рядам и интегралам Фурье, по теории потенциала и теории чисел, по обобщённому гармоническому анализ.За несколько месяцев до смерти Норберт Винер был удостоен Золотой Медали Учёного, высшей награды для человека науки в Америке. 

     «Бог  и Голем» – последняя книга основоположника кибернетики Норберта Винера, увидевшая свет в 1964 году, вскоре после смерти автора. Она создана на материале популярных лекций и представляет собой небольшой цикл социально-философских очерков, объединенных одной внутренней темой. Тема эта – в широком смысле – соотношение между творцом и его творением, между творческими силами человека и созданной его гением кибернетической машиной. 

     Винер Н. Начинает свою книгу с того, что Бог, создал человека по своему образу и подобию, и размножение человеческого рода, этот процесс, позволяет одному живому существу воспроизводить другое по своему образу и подобию. Стремление людей возвысить Бога над человеком, а Человека над материей, естественно, приводит к предположению, что машина не может создавать другие машины по своему образу и подобию; это свойство, как подчеркивает автор, в какой-то мере связано с резким различием живых и неживых систем и в еще большей степени с “дихотомией” другого рода – с различием между творцом и его творением.

     Хотелось  бы отметить, что один из разделов этой книги  посвящен изложению некоторых соображений Винера Н., которые, по его мнению, показывают, что машины вполне способны создавать другие машины по своему образу и подобию. Тема, о которой он здесь говорит является, по моему мнению, двойственной. Как говорит автор “ее не следует принимать слишком серьезно, как реальную модель процесса биологического воспроизведения и еще меньше как полную модель божественного творения; но в то же время к ней нельзя относиться с пренебрежением, так как она проливает свет на обе эти концепции.”.

     Также в данной книге присутствуют проблемы, которые непосредственно касаются взаимоотношений машины с живым существом, а также с системой, включающей механо-биологнческие элементы. Здесь речь идет об аспектах нормативного, или, точнее, этического характера. Их рассмотрение, по мнению автора, выявляет наиболее серьезные моральные ловушки, в которых может оказаться современное поколение.

     “Проблема обучения машин», они способны обучаться играм, может показаться несколько далекой от религии. Тем не менее, существует теологическая проблема.

     Осуждение, которому в прошлые века подвергалось колдовство, теперь в умах многих людей  переносится на современную кибернетику. По утверждению автора, еще лет  двести назад ученый, пытавшийся создать  машины, способные обучаться играм  или размножаться, был бы облачен в «санбенито» – балахон для жертв инквизиции – и предан огню, ибо «пролития крови быть не должно». Избежать костра как заверяет Винер Н. ему удалось бы разве лишь в том случае, если бы кто-нибудь из его высоких покровителей поверил, будто он владеет магическим искусством превращать простые металлы в золото, как некогда император Рудольф поверил пражскому раввину Лёви, что своими заклинаниями он способен вдохнуть жизнь в глиняного человека – Голема.

     Когда вы ведете игру, соблюдая все правила, и настраиваете машину так, чтобы она играла на выигрыш, вы получите его – если получите что-либо вообще, – но при этом машина не обратит ни малейшего внимания на любые соображения, за исключением тех, которые, согласно установленным правилам, приводят ее к выигрышу. Если вы ведете военную игру с некоторой условной интерпретацией победы, то победа будет достигнута любой ценой, даже ценой уничтожения вашей собственной стороны, если только сохранение ее жизнеспособности не будет совершенно четко запрограммировано в числе условий победы. По утверждению автора это нечто большее, чем “невинный парадокс”.

Испокон веков армии вели войны, которые  всегда отставали от технических  возможностей своего времени. Говорят, что в каждой войне хорошие  генералы воюют так, как воевали в последней войне, а плохие генералы – как в предпоследней. Действительно, методы ведения боевых действий в «военной игре» никогда не поспевают за изменениями реальной обстановки. Это было верно всегда, хотя в периоды, изобиловавшие войнами, порой находилось достаточно воинов, считавших, что война, в которой они участвовали, протекала в сравнительно медленно изменявшихся условиях. Именно эти испытанные воины и являются военными экспертами в истинном смысле слова. В настоящее же время экспертов ведения атомной войны не существует. Это значит, что нет таких людей, которые обладали бы каким-либо опытом в военном конфликте, где обе стороны располагают атомным оружием и применяют его.

     Поскольку действительное желание всегда может быть выражено неточно, последствия этого могут стать чрезвычайно серьезными тогда, когда процесс исполнения наших желаний осуществляется не прямым путем, а степень их реализации не ясна до самого конца. Обычно мы осуществляем наши желания, если вообще мы способны в самом деле осуществить их, с помощью процесса обратной связи, которая позволяет сравнивать степень достижения промежуточных целей с нашим восприятием. При таком процессе обратная связь проходит через нас и мы можем – пока еще не слишком поздно – повернуть назад. Если же механизм обратной связи встроен в машину, действие которой не может быть  проконтролировано до тех пор, пока не достигнута конечная цель, вероятность катастрофы чрезвычайно возрастает. Например, было бы неприятно участвовать в первом испытании автомобиля, управляемого при помощи фотоэлектрических устройств обратной связи, если бы в нем не было рукоятки, которая позволяет взять управление на себя в тот момент, когда замечаешь, что автомобиль несется на дерево.

     В наше время стала очень модной идея предотвращения некоторых опасностей, и в особенности угроз, связанных с атомной войной, при помощи автоматических устройств «защиты от сбоев» («fail-safe»). Идея эта основана на предположении, что действие устройства, вышедшего из заданного режима работы, можно обезвредить. Например, если обнаружено, что режим насоса ведет к аварии, то, пожалуй, гораздо лучше, чтобы она произошла от откачки воды, нежели от взрыва при избыточном давлении. Если мы имеем дело с хорошо понятой опасностью, техника автоматической «защиты от сбоев» правомерна и полезна. Однако она немногого стоит перед лицом еще не понятой опасности. Например,  когда отдаленная, но неизбежная опасность угрожает человечеству уничтожением, то лишь тщательное изучение общественных явлений позволит выявить эту роковую угрозу. Однако угрозы такого рода лишены ярлыков. Поэтому, хотя методы «защиты от сбоев», предназначаемые для блокировки опасных режимов работы автоматизированных систем, и могут стать необходимыми для предотвращения мировой катастрофы, их ни в коем случае нельзя считать достаточными.

     Поскольку техника все в большей мере приобретает способность осуществлять человеческие намерения, их математическая формулировка должна стать все более  и более обычным делом.

     В прошлом неполная и ошибочная оценка человеческих намерений была относительно безвредной только потому, что ей сопутствовали технические ограничения, затруднявшие точную количественную оценку этих намерений. Это только один из многих примеров того, как бессилие человека ограждало нас до сих пор от разрушительного натиска человеческого безрассудства.

     Иными словами, хотя человечество в прошлом  и сталкивалось со многими опасностями, с ними было значительно легче  справляться благодаря тому, что  во многих случаях угроза проявлялась  односторонне. В век, когда голод становится большой угрозой, можно искать спасения в увеличении производства пищи, и оказывается, что угроза уже не столь велика. При высокой смертности (в особенности детской) и при очень слабом развитии медицины жизнь каждого человека была большой ценностью, и поэтому людям справедливо предписывалось плодиться и размножаться.

     Винер Н. присутствовал на обеде в кругу врачей. И беседуя и они не боялись высказывать необычные вещи, они стали обсуждать возможности решительного наступления на болезнь, называемую дегенерацией человеческого организма, или попросту старостью. Они не рассматривали этот вопрос вне конкретных возможностей и средств, необходимых для такого наступления, но основное внимание спорящих сосредоточилось на его конечных результатах. Собеседники стремились заглянуть вперед, в тот, быть может, не такой уже далекий завтрашний день, когда момент неизбежной смерти можно будет отдалять, вероятно, в необозримое будущее, а сама смерть станет столь же случайной, как это бывает у гигантских секвой и, кажется, у некоторых рыб.

     Автор не заверяет, что они были правы в своих предположениях, но имена ученых, поддерживающих эту гипотезу, были настолько авторитетны – среди них был даже нобелевский лауреат, – Винер Н. не мог себе позволить отнестись к их высказываниям пренебрежительно. И хотя гипотеза будущего сверхдолголетия человека на первый взгляд могла показаться чрезвычайно утешительной, ее осуществление было бы страшным несчастьем, и прежде всего для врачей. Ибо сразу становится ясным одно – человечество не смогло бы долго вынести бесконечного продления всех жизней, которые рождаются на Земле. И дело не только в том, что часть населения, не способная поддерживать собственное существование, намного превзойдет числом ту часть населения, от которой ее существование зависит; беда и в том, что, пребывая в вечном неоплатном долгу перед пришельцами из прошлого, мы окажемся совершенно неподготовленными к решению тех проблем, которые поставит перед нами будущее. Ситуация, при которой жизнь всех граждан может продолжаться сколь угодно долго, немыслима. Если же, однако, возможность бесконечного продления жизни осуществится, то решение положить предел чьей-либо жизни или хотя бы отказаться от продления ее станет делом врачебной морали. 

     По  мнению автора, одна из великих проблем, с которой мы неизбежно столкнемся в будущем, – это проблема взаимоотношения человека и машины, проблема правильного распределения функций между ними. На первый взгляд может показаться, что машина обладает рядом очевидных преимуществ. В самом деле, она работает быстрее и с большим единообразием или по крайней мере может обладать этими свойствами, если ее правильно построить. Цифровая вычислительная машина за один день может выполнить такой объем работы, с которым целой команде вычислителей не справиться и за год, притом работа будет выполнена с наименьшим количеством ошибок. Вместе с тем человек обладает несомненными преимуществами. Не говоря уже о том, что любой разумный человек во взаимоотношениях с машиной считает первостепенными свои, человеческие цели, машина в сравнении с человеком далеко не так сложна, а сфера ее действий, взятых в их многообразии, гораздо меньше. Вряд ли можно считать, что мозг в сравнении с современными вычислительными машинами не имеет определенных преимуществ, связанных с его огромным функциональным диапазоном, несоизмеримо большим, чем можно было бы ожидать, учитывая его физические размеры.

     Главное из этих преимуществ – по-видимому, способность мозга оперировать с нечетко очерченными понятиями. В таких случаях вычислительные машины, по крайней мере в настоящее время, почти не способны к самопрограммированию. Между тем наш мозг свободно воспринимает стихи, романы, картины, содержание которых любая вычислительная машина должна была бы отбросить, как нечто аморфное.