egovoru (egovoru) wrote,
egovoru
egovoru

Categories:

Рай – в конечном достиженьи духом вечного безличья

Вторая книжка современного пифагорейца Макса Тегмарка называется «Life 3.0» (есть и русский перевод, но, кажется, небесплатный). «Жизнь 1.0» характеризуется только дарвиновской эволюцией, «Жизнь 2.0» (наша с вами) – еще и культурной, ну, а «Жизнь 3.0» будет обладать возможностью дизайна не только своего программного обеспечения, но и своего «железа».


На одно возникшее у меня замечание к этой схеме автор отвечает тут же в тексте: да, нашу способность протезировать собственные зубы и сердечные клапаны можно назвать «Жизнью 2.1». Но остается другое, более существенное. Верно, что освоение, например, иностранного языка не требует изменений в нашей ДНК. Но разве только ДНК составляет наше «железо»? А где же в этой схеме учитываются те – вполне физические – изменения числа и структуры синапсов, которыми сопровождается приобретение нового навыка? Так что освоение иностранного языка никак нельзя назвать переписыванием только программы. Другое дело, что, как и в случае с зубными протезами, связанные с ним изменения в структуре мозга не слишком радикальны – но и радикальные изменения, о которых мечтает Тегмарк, не были бы какой-то принципиально новой ступенью.

Столь же проблематична и предложенная Тегмарком классификация мнений об искусственом интеллекте, но по другой причине. Заметьте, речь идет именно об «общем интеллекте», не о способности решать узкий класс конкретных задач. Ну, а как же выяснить, превосходит ли ИИ в этом отношении человеческий разум или нет, если возможных задач – бесконечное множество? На любую задачу, которую ИИ решит успешнее человека, найдется новая задача, для которой он может оказаться непригодным. А раз так, то вся эта схема (как и генерализованный тест Тьюринга, кстати), летит к чертям.


Две иллюстрации из книжки Макса Тегмарка.
Слева – три версии жизни, справа – классификация мнений об ИИ

К счастью, ни одна из этих картинок не важна для основного содержания книжки Тегмарка, посвященной проблеме безопасности ИИ. Я совершенно согласна с автором, что предпринимать шаги для обеспечения этой безопасности нам нужно уже сейчас, независимо от того, насколько далеко нам удастся продвинуться в усовершенствовании ИИ.

Tags: quo vadis, жизнь
Subscribe

Posts from This Journal “quo vadis” Tag

  • Достигнут лишь первый рубеж еще

    Как я уже рассказывала, в профессиональном смысле мне повезло почти как Фарадею: экзотическая и начисто лишенная всякой практической полезности…

  • Мы все учились понемногу

    В школе нам прививали стремление дойти до самой сути, досконально разобраться в изучаемых предметах и явлениях. Я до сих пор ясно помню, как мы с…

  • Грядущее, от изобилья своих даров, мне знанье шлет

    Если теизм, некогда господствующая идеология, сегодня уступил место гуманизму, то, полагает Юваль Харари, и гуманизм не вечен. Что же придет ему…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 245 comments

Posts from This Journal “quo vadis” Tag

  • Достигнут лишь первый рубеж еще

    Как я уже рассказывала, в профессиональном смысле мне повезло почти как Фарадею: экзотическая и начисто лишенная всякой практической полезности…

  • Мы все учились понемногу

    В школе нам прививали стремление дойти до самой сути, досконально разобраться в изучаемых предметах и явлениях. Я до сих пор ясно помню, как мы с…

  • Грядущее, от изобилья своих даров, мне знанье шлет

    Если теизм, некогда господствующая идеология, сегодня уступил место гуманизму, то, полагает Юваль Харари, и гуманизм не вечен. Что же придет ему…