?

Log in

No account? Create an account

Previous Entry | Next Entry

Если теизм, некогда господствующая идеология, сегодня уступил место гуманизму, то, полагает Юваль Харари, и гуманизм не вечен. Что же придет ему на смену? Догадка Харари: датаизм (не путать с дадаизмом :)


Датаизм – представление о мире как о совокупности потоков «данных», рассматриваемых как наивысшая ценность. Признаться, мне не удалось увидеть тут какой-то особой новизны. Харари не дает внятного определения «данным», но из контекста следует, что он имеет в виду информацию (хотя само слово «информация» он употребляет в значении «смысл»: данные нужны, чтобы извлекать из них информацию). Но ведь информационно-теоретическое описание мира уже сегодня кажется вполне обыденным? Более того, его истоки можно усмотреть даже в некоторых древних философских идеях (вроде китайской «ци»)?

К тому же у Харари не ясно, кто же, собственно, будет поклоняться данным? Он предполагает, что к тому времени людей вытеснят киборги и даже роботы. Усилия по созданию ИИ он рассматривает как процесс отделения интеллекта от сознания. Остается непонятным, почему этот отделившийся интеллект вообще будет нуждаться в идеологии?


Жутковатая иллюстрация Edmon de Haro
к статье Генри Киссинджера в Atlantic об опасностях ИИ

Posts from This Journal by “quo vadis” Tag

  • Если кукла выйдет плохо

    Если когда-то мы практиковали стерилизацию «неполноценных», то теперь намереваемся исправлять наследственные дефекты путем генной инженерии. Против…

  • Пускай нам общим памятником будет

    Энциклопедии определяют «социализм» как общественную собственность на средства производства, а вот Дмитрий Давыдов, автор недавней публикации,…

  • Где вдруг она гасла в испуге

    Если «Солярис» Лема – размышление о внеземном разуме и возможности контакта с ним, то «Солярис» Тарковского – исследование нашей способности…

Comments

sergeyoho
Jan. 16th, 2019 05:14 pm (UTC)
Харари, помимо малопонятных философских высказываний, вполне себе чётко тыкает пальцем в конкретные проблемы.

Первая проблема – он боится, что наша жизнь будет постоянно наблюдаться всякими «большими братьями». В этом смысле «религия данных» означает что-то вроде «информация должна быть свободной: передавай наружу как можно больше информации, чтоб мир стал лучше, и тебе тоже было хорошо».

Например, страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры. Противоречит privacy? Проявят понимание, дадут скидки смелым и открытым первопроходцам. Пройдёт не так много лет и «скидки для желающих отказаться от privacy» превратятся в жуткие условия для старорежимных недобитых гадов, которые пожелают зачем-то privacy сохранить.

Вторая проблема – всё больше решений будет приниматься за нас алгоритмами, чью логику мы обычно плохо понимаем. Сегодня навигатор определяет маршрут. (Известны совершенно реальные комичные случаи, когда люди в реку заезжали, слепо доверяя навигатору.) «Завтра» «ИИ» будет за нас вести машину. И, в частности, решать, в случае возникновения плохой ситуации на дороге, сбивать ли выскочившего перед машиной ребёнка или свернуть на встречку под грузовик. «Послезавтра» мы можем доверить ИИ выбор спутника жизни.

Есть ли почва для этих опасений? Полагаю, да. Например, в сети уже мелькало немало информации о всяких китайских экспериментах типа «социального рейтинга» или школ, где дети увешаны мониторящими их приборами.

Я согласен, что Харари раздувает опасности именно этого типа и преуменьшает другие, более традиционные, типа старых добрых мировых войн. Но это совершенно обычное дело для гуманитария, интересующегося конкретной тематикой.

Edited at 2019-01-16 05:47 pm (UTC)
egovoru
Jan. 17th, 2019 12:30 am (UTC)
"чётко тыкает пальцем в конкретные проблемы"

Потенциальные проблемы всеобщей дигитализации - это одно, а стройная трехступенчатая эволюция, теизм-гуманизм-датаизм - это совсем другое. Последнее, признаться, кажется мне натягиванием совы на глобус :)

"страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры"

С таким я не сталкивалась, а, наоборот, сталкивалась с обратным: медицинские данные больных - топ-секрет, за разглашение которых врачи идут под суд.

"всё больше решений будет приниматься за нас алгоритмами"

В этом отношении мне кажется показательным решение математиков, что компьютерное доказательство таки считается за доказательство, даже если человек не может его проверить. Что же касается автомобилей и т.д., то, наверное, можно просто сравнить их показатели (число аварий на единицу пробега или что-то в этом роде) и показатели людей-шоферов? Если беспилотники создают меньше аварий, чем люди-шоферы, значит, они лучше? Правда, люди, конечно, сильно различаются по навыкам автомобилевождения, и не очень понятно, как сравнивать одного конкретного индивидуума-шофера и беспилотный автомобиль.

"всяких китайских экспериментах типа «социального рейтинга»"

Это, мне кажется, несколько иная идея, чем подмена алгоритмом принятия решения. Китайцы, в сущности, ввели некий новый "экзамен", который раньше проверял знание древних текстов, а теперь - социальную активность.

"Харари раздувает опасности именно этого типа"

Но нас ведь никто не заставит ездить на беспилотных автомобилях, если они более опасны, чем вести самому? Так в чем же здесь опасность-то?
sergeyoho
Jan. 17th, 2019 06:43 am (UTC)
Потенциальные проблемы всеобщей дигитализации - это одно, а стройная трехступенчатая эволюция, теизм-гуманизм-датаизм - это совсем другое. Последнее, признаться, кажется мне натягиванием совы на глобус :)

Тут ошибкой будет искать какого-то Бога Данных, которому датаисты молятся. Общая идея Харари вполне элегантна и касается подхода к принятию важных решений.

Теизм – посмотри, что написано в священных текстах, если шибко грамотный. А лучше пойди к священнику-раввину-мулле за советом.

Гуманизм – загляни внутрь себя. Пойми, чего хочет твоё прекрасное «внутреннее я».

Датаизм – внутри нас никакого «внутреннего я» нет, только путаные алгоритмы, созданные под гоняющихся по саванне за антилопами обезьян. Алгоритмы Big Data лучше. Если ты и другие люди передадут этим алгоритмам информацию, будут приняты оптимальные решения в интересах человека и общества.
hyperboreus
Jan. 17th, 2019 09:49 am (UTC)
Да, это вы очень хорошо стратифицировали три мировоззрения. В этом я согласен с Харари. Все к тому и идет.
egovoru
Jan. 17th, 2019 12:49 pm (UTC)
Я не вижу тут принципиального изменения: сначала мы считали в уме, потом изобрели логарифмическую линейку, а теперь используем для этого электронные устройства. Ну и что?
hyperboreus
Jan. 17th, 2019 01:19 pm (UTC)
Просто считать - одно, видеть в этом последнюю реальность и основу твоей природы - совсем другое.
(no subject) - egovoru - Jan. 17th, 2019 01:30 pm (UTC) - Expand
(no subject) - hyperboreus - Jan. 17th, 2019 02:17 pm (UTC) - Expand
(no subject) - egovoru - Jan. 17th, 2019 11:48 pm (UTC) - Expand
(no subject) - hyperboreus - Jan. 18th, 2019 09:18 am (UTC) - Expand
(no subject) - egovoru - Jan. 18th, 2019 01:56 pm (UTC) - Expand
(no subject) - hyperboreus - Jan. 18th, 2019 03:23 pm (UTC) - Expand
(no subject) - egovoru - Jan. 18th, 2019 11:50 pm (UTC) - Expand
(no subject) - hyperboreus - Jan. 19th, 2019 08:59 am (UTC) - Expand
(no subject) - egovoru - Jan. 19th, 2019 12:50 pm (UTC) - Expand
(no subject) - zlata_gl - Jan. 22nd, 2019 04:05 pm (UTC) - Expand
(no subject) - egovoru - Jan. 23rd, 2019 01:27 am (UTC) - Expand
egovoru
Jan. 17th, 2019 12:38 pm (UTC)
У Вас действительно получилась стройная картина, но только она, как мне кажется, мало соответствует действительности.

Разве мы полагаемся на "загляни внутрь себя", когда, например, обнаруживаем, что заболели? Нет, мы идем к специалисту-врачу. Или когда мы хотим, например, построить мост - разве мы прислушиваемся к внутреннему голосу? Нет, мы обращаемся к справочнику по сопромату. Да, с некоторых пор мы заменили логарифмическую линейку электронным устройством - но стоит ли считать это изменение столь принципиальным?
sergeyoho
Jan. 17th, 2019 02:09 pm (UTC)
Это не у меня, это у Харари :)

Несомненно, во многих случаях мы не рассчитываем на «внутренний голос», а доверяем, например врачу, адвокату, стюардессе или программе-навигатору.

Но ведь во многих других таки да рассчитываем. Выбор спутника жизни, голосование на выборах, куда поехать в отпуск, в каком тоне поговорить с ребёнком, если возникла проблема. Или как действовать водителю на дороге в критической ситуации, где тот или иной ущерб неизбежен.

Прогноз Харари – первая область будет увеличиваться, вторая
уменьшаться, возможно очень-очень сильно. Эти идеи носятся в воздухе, антиутопия Пелевина про цукербринов выглядит иллюстрацией к Харари. Хотя не уверен, что они знакомы.
(no subject) - egovoru - Jan. 17th, 2019 11:43 pm (UTC) - Expand
sergeyoho
Jan. 17th, 2019 02:38 pm (UTC)
"страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры"

С таким я не сталкивалась, а, наоборот, сталкивалась с обратным: медицинские данные больных - топ-секрет, за разглашение которых врачи идут под суд.


Во-первых, в данном случае «наружу» не значит «всем». Допустим, вам скажут, что считываемые с вас в реальном времени данные будут храниться на «облаке» в зашифрованном виде, доступ получат лишь врачи и страховая компания.

Тут у меня есть и личные наблюдения. И в западном хайтеке я вижу достаточно энтузиастов (Харари назвал бы их датистами), которые готовы обсуждать идеи в духе: «Пусть шофёр грузовика спит дома с датчиком. Датчик покажет, что он недоспал – за руль не пустим». Я согласен, что пока что эти энтузиасты не имеют шансов пробить западную систему защиты прайваси. Что будет через 30 лет – понятия не имею.

Но есть ещё и Восток.

https://focus.ua/technologies/416382-v-kitae-za-uchenikami-sledyat-s-pomoshhyu-umnoj-shkolnoj-formy.html

Но нас ведь никто не заставит ездить на беспилотных автомобилях, если они более опасны, чем вести самому? Так в чем же здесь опасность-то?

Беспилотные автомобили могут войти в обиход, если статистически они будут безопаснее теперешних. К конкретной ситуации на дороге общая статистика может иметь косвенное отношение.

Касательно «никто не заставит»: если 80% населения пересядет в беспилотные автомобили – на оставшиеся 20% будут по понятным причинам сильно давить. Могут и заставить.

Повторяю, одна из проблем – критические ситуации. На шоссе выскочили два неосторожных ребёнка, затормозить не успеть. Но можно свернуть на встречку под самосвал. У вас в машине старенькая мама. Вы готовы доверить алгоритму «разрулить» эту ситуацию?

Edited at 2019-01-17 02:39 pm (UTC)
egovoru
Jan. 18th, 2019 12:16 am (UTC)
"данные будут храниться на «облаке» в зашифрованном виде, доступ получат лишь врачи"

Первая проблема, которую я здесь вижу - насколько надежна защита от взлома? Мы уже практически перешли на облачное хранение своих финансов - под постоянной угрозой identity theft или еще чего похуже. Очевидно, дальнейшее движение в этом направлении будет зависеть от соотношения удобства использования и риска воровства.

Вторая проблема, которую Харари, кстати, совсем не упоминает: трудность обнаружения полезных данных среди мутного потока бесполезных. С ней мы столкиваемся уже сегодня, когда вынуждены выгребать горы мусора из своих реальных и виртуальных почтовых ящиков. Планируя будущее, не следует забывать, что слишком много информации - почти так же плохо, как и слишком мало.

Наконец, превознося потоки данных, Харари делает ту же ошибку, как и те, кто славословит торговлю как главный залог человеческого благополучия. Прежде чем пересылать данные куда-то, их ведь надо еще получить, а для этого иногда надо очень и очень постараться. (Точно так же, как, прежде чем продавать товар, его надо еще сначала произвести).
yoginka
Jan. 17th, 2019 03:08 pm (UTC)
//"страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры"
С таким я не сталкивалась, а, наоборот, сталкивалась с обратным: медицинские данные больных - топ-секрет, за разглашение которых врачи идут под суд. //
- А у китайцев уже подобные данные и все остальные - не секрет. У них все данные идут в централизованную копилку, контролируемую правительством. Все про всех известно, кто где был, что покупал, с кем и о чем переписывался и т.п., и сами китайцы особо не заморачиваются на этот счет. С одной стороны, это уже позволяет предотвращать преступления и даже более эффективно тренировать разнообразные ИИ. Но западному человеку это кажется жуткой антиутопией. И не идем ли мы к тому же?
Не только в Китае это происходит. Несколько лет назад читала, что страховые компании (в США)) покупали у магазинов данные о том, какие продукты покупает человек. А потом повышали медицинскую страховку тем, кто злоупотребляет "вредными". (Не помню источник и не могу сказать, насколько он надежен).
yoginka
Jan. 17th, 2019 03:28 pm (UTC)
А вот и свежая статья про китайцев, где как раз об этом есть:
https://www.cbsnews.com/news/60-minutes-ai-facial-and-emotional-recognition-how-one-man-is-advancing-artificial-intelligence/
(Я там подчеркнула то, что в Китае нет никакой охраны частной информации.)

"China's advantage is in the amount of data it collects. The more data, the better the AI. Just like the more you know, the smarter you are. China has four times more people than the United States who are doing nearly everything online."

"College student Monica Sun showed us how more than a billion chinese are using their phones to buy everything, find anything and connect with everyone. In America, when personal information leaks, we have congressional hearings. Not in China.

Scott Pelley: Do you ever worry about the information that's being collected about you where you go what you buy who you're with?

Monica Sun: I never think about it.

Scott Pelley: Do you think most Chinese worry about their privacy?

Monica Sun: Not that much."
egovoru
Jan. 18th, 2019 12:22 am (UTC)
Если в будущем, действительно, будут созданы централизованные электронные "центры слежения" за всеми нами, то это, по существу, будет возврат к деревенской жизни, когда все наблюдали за всеми - просто потому, что все жили у всех на виду :)
(no subject) - yoginka - Jan. 18th, 2019 12:29 am (UTC) - Expand
(no subject) - noname_rambler - Jan. 20th, 2019 07:33 am (UTC) - Expand
(no subject) - egovoru - Jan. 20th, 2019 02:19 pm (UTC) - Expand
egovoru
Jan. 18th, 2019 12:18 am (UTC)
"страховые компании (в США)) покупали у магазинов данные о том, какие продукты покупает человек. А потом повышали медицинскую страховку тем, кто злоупотребляет "вредными"

Не думаю, что кто-то будет пытаться воплотить в жизнь такую идею, потому что мы ведь не всегда покупаем продукты для того, чтобы самим их съесть - может, нас попросил больной сосед?
yoginka
Jan. 18th, 2019 12:27 am (UTC)
Тем не менее, читала об этом. И с тех пор не завожу лишние "членские" карточки в магазинах, по которым можно получать скидки, недоступные случайным покупателям. Именно на них хранится подробная информация обо всех покупках и именно о них было то предупреждение, о котором когда-то читала.
(no subject) - egovoru - Jan. 18th, 2019 12:29 am (UTC) - Expand
(no subject) - yoginka - Jan. 18th, 2019 12:40 am (UTC) - Expand
(no subject) - egovoru - Jan. 18th, 2019 02:28 am (UTC) - Expand
(no subject) - yoginka - Jan. 18th, 2019 02:49 am (UTC) - Expand
(no subject) - egovoru - Jan. 18th, 2019 03:36 am (UTC) - Expand
(no subject) - zlata_gl - Jan. 22nd, 2019 12:28 pm (UTC) - Expand
(no subject) - egovoru - Jan. 22nd, 2019 02:08 pm (UTC) - Expand