Технологии и человек: страх, высокомерие и этические границы

История человечества — это не только история войн, государств, религий и цивилизаций. Это также история восхищения, страха и, в конечном итоге, нового равновесия, которое человек устанавливает перед лицом созданных им же инструментов. От каменного топора до печатного станка, от паровой машины до поезда, от телеграфа до интернета, от искусственного интеллекта до роботов — каждое великое изобретение меняло отношения человека с миром. Но в первый момент каждого великого изменения вновь возникал тот же старый страх: «Останется ли мне место в этом новом мире?»

Сегодня наша тревога перед искусственным интеллектом, роботами и автоматизацией может показаться нам очень новой. Однако человечество испытывает это чувство не впервые. Каждое крупное технологическое развитие сначала вызывало потрясение у людей той эпохи. Человек поддавался мысли, что его собственное изобретение однажды может сделать его ненужным.

Появление печатного станка — один из первых ярких примеров этого. Печатный станок был не просто машиной для печати книг; он означал умножение, распространение информации и выход ее из-под контроля старых авторитетов. Мир, основанный на рукописной культуре, пошатнулся. Каллиграфы, писцы, религиозные и политические авторитеты беспокоились о том, что информация станет доступной каждому. Потому что когда информация умножается, умножаются не только книги; умножаются и люди, задающие вопросы.

Но печатный станок не сделал человека незначительным. Напротив, он породил новый тип человека: читающего, пишущего, критикующего, обсуждающего, участвующего в общественной жизни. Информация вышла из-под старой монополии, но человек не исчез. Человек сделал печатный станок частью своего мыслительного мира.

Затем появились машины. С промышленной революцией физическая сила человека начала уступать машине. Ремесленник, ткач и мелкий производитель считали, что их труд обесценивается. Вопрос «Если машина производит, зачем нужен я?» стал одним из самых глубоких страхов индустриальной эпохи. Этот страх был не совсем необоснованным. Некоторые профессии исчезли, некоторые жизни разрушились, некоторые люди остались за пределами нового порядка. Технологии не всегда приносят только возможности; они также порождают боль, разрывы и несправедливость.

Но и машина не сделала человека полностью ненужным. Человек не был стерт из производства; изменилась форма производства. Появились новые сферы деятельности, новые профессии, новые классы, новые борьбы за права. Человек не был просто побежденным существом перед машиной; он включил машину в свою рабочую систему, право и общественную жизнь.

Когда был изобретен поезд, тревога приняла другую форму. Поезд был не просто средством передвижения; он изменил смысл времени и расстояния. Путешествия, которые раньше занимали дни, сократились до часов. Города, поселки, рынки и страны соединились друг с другом. Но скорость также породила страх. Сможет ли человеческое тело выдержать эту скорость? Разрушится ли старая местная жизнь? Что будут делать караванщики, возчики, владельцы постоялых дворов и придорожные торговцы?

Поезд не сделал человека незначительным; но он дал человеку новое ощущение мира. Теперь далекое не было таким далеким, как раньше. Человек переопределил расстояние, перестроил время, пересоздал города.

Телеграф и телефон еще больше сократили расстояние. Новости теперь могли доходить не через дни или недели, а очень быстро. Человеческий голос мог проходить по проводам и достигать другого города, другой страны. На этот раз тревога заключалась в следующем: станет ли человек теперь доступен в любой момент? Как такое ускорение связи изменит политику, торговлю, войну и человеческие отношения?

Радио, кино и телевидение изменили отношения человека с массой. Одно и то же слово, одно и то же изображение и одна и та же новость могли достигать миллионов людей одновременно. Это была огромная возможность, но в то же время и большая опасность. Потому что средства массовой информации могли как информировать человека, так и манипулировать им, как просвещать, так и обманывать, как объединять, так и унифицировать. В эту эпоху тревога человека заключалась в следующем: «Я формирую свое собственное мнение, или я принимаю за реальность мир, который мне показывают?»

С появлением компьютеров и интернета технологии стали затрагивать не только физическую силу, зрение, слух и расстояние, но и умственный труд человека. Компьютер вычислял, хранил, организовывал, писал. Интернет же чрезвычайно облегчил доступ к информации. Но на этот раз не недостаток информации, а ее избыток начал затруднять человека. Истина смешалась с ложью, информация с шумом, идеи с пропагандой.

Социальные сети еще больше углубили этот процесс. Человек стал не просто получателем информации, а существом, постоянно демонстрирующим себя, продающим себя, ожидающим одобрения и ищущим подтверждения. Интимность ослабла, внимание рассеялось. Человек начал создавать жизнь не столько для себя, сколько для показа другим.

Сегодня мы сталкиваемся с искусственным интеллектом и роботами. На этот раз тревога глубже. Потому что предыдущие технологии в основном меняли физическую силу, скорость, передвижение и связь человека. Искусственный интеллект же приближается к сфере письма, мышления, перевода, анализа, принятия решений и производства человека. Роботы же становятся более заметными не только на заводах; но и в здравоохранении, сельском хозяйстве, безопасности, сфере услуг и повседневной жизни.

Поэтому сегодняшний вопрос более острый: «Заменит ли машина теперь не только наши руки, но и наш разум?»

Фильм Стэнли Кубрика «2001: Космическая одиссея» является одним из самых мощных символов этого страха в культурной памяти. HAL 9000 в фильме — это не просто компьютер; это символ страха человека потерять контроль над интеллектом, который он сам создал. Сегодня в основе тревоги перед искусственным интеллектом и роботами лежит тот же вопрос: сможет ли человек оставаться хозяином своего изобретения?

Но история говорит нам и другое. Человечество перед лицом каждой крупной технологической инновации сначала испытывало страх, думало, что потеряет свое место, но со временем адаптировало эту технологию к своей повседневной жизни, морали, праву и культуре. Ни одна технология до сих пор не приобрела абсолютной власти, способной полностью сделать человека незначительным. Технологии меняли некоторые роли человека, устраняли некоторые профессии, разрушали некоторые привычки, бросали вызов некоторым ценностям; но они не смогли стереть человека с исторической сцены.

Потому что человек — это не только существо, производящее технологии. Человек — это также существо, которое придает смысл технологиям, определяет их, ограничивает, обсуждает и пытается поместить их в этические рамки. Когда появляется новое изобретение, сначала возникает удивление и тревога. Затем общество начинает видеть вред и возможности этого изобретения. После этого в дело вступают этика, право, философия, политика и общественное сознание.

Человечество задает одни и те же основные вопросы каждой новой технологии: Кому это служит? Кому это вредит? В каких пределах это должно использоваться? Для каких целей это должно быть запрещено? Какие ценности это укрепляет, а какие ослабляет?

Именно здесь проявляется истинное превосходство человека. Человек может быть не быстрее технологии. Он может не вычислять точнее машины. Он может не создавать тексты быстрее искусственного интеллекта. Он может быть не таким неутомимым, как робот. Но человек — это существо, которое может спросить: «Это правильно?», «Это справедливо?», «Это гуманно?», «Кто возьмет на себя ответственность за это?» Технология обрабатывает данные; человек ищет смысл. Технология производит результаты; человек думает об этической цене результатов.

Поэтому ни одно технологическое развитие или революция не может полностью выйти за рамки этической и философской основы, разработанной человечеством за тысячи лет. Максимум, что она может сделать, это бросить ей вызов, потрясти, расширить и заставить переосмыслить. Атомная бомба заставила человечество переосмыслить мораль войны. Интернет вновь открыл дискуссию о конфиденциальности и истине. Искусственный интеллект сегодня также заставляет нас переосмыслить труд, творчество, ответственность, человеческое достоинство и право принимать решения.

Технологии не могут избежать этического мира человечества. Потому что у технологий нет собственной совести. Человек делает их как орудием войны, так и средством лечения. Человек делает их как системой наблюдения, так и возможностью для образования. Человек делает их как инструментом манипуляции, так и средством достижения истины. Поэтому главный вопрос не в том, насколько развиты технологии, а в том, в какой системе ценностей человек их использует.

Есть и другая истина: каждое технологическое развитие также создает новое поколение, которое быстро к нему адаптируется. Это поколение использует новые технологии более комфортно, чем предыдущие. В эпоху печатного станка те, кто привык к печатному тексту, получили преимущество перед людьми устной культуры. В индустриальную эпоху те, кто освоил машину, опередили старый мир ремесел. В компьютерную эпоху те, кто использовал цифровые инструменты, оставили позади тех, кто придерживался бумажного порядка. В эпоху интернета и социальных сетей поколения, родившиеся в цифровом мире, начали считать предыдущие поколения медленными, старыми и неумелыми.

Сегодня поколение, хорошо использующее интернет, социальные сети, мир робототехники и искусственный интеллект, движется с большой уверенностью в себе. Более того, местами с высокомерным отношением оно презирает предыдущие поколения. Но это технологическое высокомерие временно. Потому что технологии не дают ни одному поколению постоянного превосходства. Сегодняшний цифровой абориген может стать завтрашним технологическим чужаком. Поколение, которое сегодня легко использует искусственный интеллект, завтра может испытать то же удивление перед другой технологией, название которой мы еще не знаем.

Каждое поколение считает предшественников некомпетентными перед лицом технологий; но очень скоро оно испытывает то же чувство некомпетентности в мире тех, кто придет после него. Поэтому технологические навыки должны приносить человеку не высокомерие, а смирение. Потому что ни одно поколение не живет на последней остановке технологий. Каждое поколение является лишь временным пользователем своего времени.

Поэтому перед лицом технологий настоящая потребность заключается не в поклонении постоянно меняющимся инструментам, а в сохранении неизменных человеческих ценностей. Скорость важна, но мудрость важнее скорости. Данные важны, но истина глубже данных. Эффективность важна, но справедливость ценнее эффективности. Искусственный интеллект силен, но у него нет совести. Робот неутомим, но не милосерден. Алгоритм может предлагать решения, но не может нести ответственность.

То, что делает человечество человечеством, — это не только способность изобретать. То, что делает человечество человечеством, — это смелость ставить под сомнение свои собственные изобретения. Недостаточно сказать: «Мы можем это сделать». Нужно спросить: «Должны ли мы это делать?» Технологии — это язык возможностей; этика — это язык границ и ответственности.

Страх, который мы испытываем сегодня перед роботами и искусственным интеллектом, на самом деле является страхом не столько перед технологиями, сколько перед самим человеком. Если человек сохранит свои этические ценности, правовое сознание, философскую глубину и совесть, технологии могут оставаться на службе у человека. Но если человек потеряет эти ценности, даже самые развитые технологии могут стать не слугами, а хозяевами человечества.

В конечном итоге, вопрос в следующем: Технологии не уничтожают человека; но если человек теряет свой моральный центр, он уменьшается перед лицом технологий. Весь исторический процесс, от печатного станка до поезда, от телеграфа до телевидения, от компьютера до интернета, от искусственного интеллекта до роботов, преподает нам один и тот же урок. Человек перед каждым новым изобретением сначала боялся, затем понимал, определял, обсуждал и адаптировал его к своей жизни.

Поэтому и сегодня не следует слепо бояться роботов, искусственного интеллекта или новых технологий. Главное — осмыслить их в рамках тысячелетнего этического и философского наследия человечества, контролировать их и направлять таким образом, чтобы они служили человеческому достоинству.

Потому что, как бы ни развивались технологии, самый большой вопрос человечества не изменится: Создадим ли мы более мощные машины, или построим более справедливый, более сознательный и более гуманный мир?

Будущее человека будет определяться не силой роботов, а силой человека сохранять свою совесть.

С уважением, Муджахит Озден Хун