Нейросеть. Кажется, главный кандидат в «слово года». Про DALL‑E и Midjourney знают уже в начальной школе. На обложках журналов — сгенерированные нейросетями картинки. В топе новостей что ни день — то «нейросеть нарисовала», «нейросеть написала», «нейросеть придумала». И даже российский «Яндекс», впрыгивая уже в предпоследние вагоны уходящего поезда имени хайпа, представил накануне прототип своей нейросети — «Шедеврум». Как это принято в этом сезоне, естественно, для генерации картинок. Скоро будет, как с NFT. Если ты не заминтил токен, то тебя как будто бы и нет вовсе. Впрочем, где сейчас NFT, не напомните?
перейти к чтению
Нейросеть
1
шаг
Кандидат физико-математических наук, эксперт Лаборатории культура, директор по фундаментальным исследованиям института искусственного интеллекта AIRI, руководитель проекта iPavlov — открытой нейросетевой библиотеки для разговорного интеллекта.
Сфера научных интересов: искусственная жизнь, моделирование эволюционных процессов, рост сложности в природе, проблема адаптивности обучения, селекционные теории обучения.
Михаил Бурцев
Нейросети уже могут программировать, писать тексты, анализировать данные и очень скоро, вероятно, заменят человека во многих областях. Однако есть профессии, в которых искусственному интеллекту никогда не будет места (во всяком случае, так считают те, кто пока еще верит в человечество). Почему нейросети, какими бы продвинутыми они не были, не смогут заменить людей в тех областях, которые требуют простого человеческого участия?
§2 — Почему нейросеть ничего не может?
Шаг 1. Нейросеть
Читайте и слушайте.
§2 — Почему нейросеть ничего не может?
Михаил Бурцев о том способна ли нейросеть заменить человека
Михаил Бурцев о том способна ли нейросеть заменить человека
Сфера научных интересов: искусственная жизнь, моделирование эволюционных процессов, рост сложности в природе, проблема адаптивности обучения, селекционные теории обучения.
Михаил Бурцев
«
В моей картине мира автором должен быть художник. Если мы говорим о том, что произведение искусства должно ставить какой-то вопрос, поднимать проблему или предлагать решение, то эта проблема лежит в плоскости искусства и культуры
В моей картине мира автором должен быть художник. Если мы говорим о том, что произведение искусства должно ставить какой-то вопрос, поднимать проблему или предлагать решение, то эта проблема лежит в плоскости искусства и культуры
«
Нейросеть не понимает контекст. По крайней мере, до той степени, до которой ее понимает человек
Нейросеть не понимает контекст. По крайней мере, до той степени, до которой ее понимает человек
Когда журналист пишет какой-то текст, чтобы этот текст был действительно интересным, он не должен быть тривиальным и сообщать то, что все и так знают. Он должен содержать в себе какую то новизну, какую-то гипотезу выдвигать, какую-то интерпретацию того, что происходит. И вот генерация этой гипотезы зависит от некоторого знания того предмета, о котором пишет журналист. Это могут быть какие-то события, действующие лица, предположения, что они могут сделать, описание возможных сценариев. И, кажется, здесь искусственный интеллект еще очень далеко. Он будет описывать скорее то, что обычно встречается в статьях, которые имеют подобную структуру. И не будет принимать во внимание содержание тех событий, которые находятся в реальном мире за границами текста.
Сейчас все большие модели в основном живут внутри текстового мира. Они умеют хорошо структурировать тексты, стилизовать их и так далее. Но у них нет связи с окружающей реальностью. Они не понимают, как некоторые события в окружающем мире или некоторые состояния этого мира, то, что в нем происходит, то, что мы о нем знаем, некоторые правила нашей жизни влияют на другие события. И как это затем отражается в журналистском тексте. Такого они не умеют. Мне кажется, это уже следующий этап развития систем искусственного интеллекта.
То есть сейчас какой-нибудь Stable Diffusion, алгоритм для того, чтобы генерировать красивые картинки, может сгенерировать такую картинку, чтобы нарисовать которую нужно как минимум 10 лет учиться. А он это делает за одну минуту. Но при этом то, что он нарисует, будет просто примером массовой культуры, повторением, шаблонизацией каких-то примеров, их вариацией в рамках определенной темы. Это не будет нести за собой идеи, которую привносит художник, развивая то или иное направление. Вот, Бэнкси, например, рисует граффити. С точки зрения научной и художественной ценности, даже техники – все это не особо продвинутое искусство. Но за ним стоят смыслы, концептуальные идеи, которые он пытается выразить своими произведениями.
И именно эти концептуальные идеи – как раз и есть то, на что сегодня нейросети не способны. Они не могут поставить какой-то вопрос перед человеком, чтобы он над ним задумался и попытался на него ответить. То же самое и к журналистским текстам относится.
Наверное, как раз в этом талант журналиста и заключается, чтобы, возможно, в своей статье не давать ответ на какой-то вопрос. А заставить человека задуматься над этим вопросом.
Здесь мы можем перейти к следующей идее, над которой я думаю время от времени — о связи науки и искусства. На самом деле, к этому можно отнести искусство в широком смысле, креативность в целом. И, на мой взгляд, эти две вещи глубоко связаны с точки зрения процесса и смысла их реализации. Наука заключается в том, что мы стремимся сгенерировать новые знания, решаем какие-то проблемы, которые перед нами стоят. Мы объясняем то, чего мы не знали. На мой взгляд, искусство решает ровно такую же функцию — только для другой области знания. И эта гипотеза позволяет, в частности, оценивать произведение искусства. Хотя кажется, что оно субъективно, на самом деле возможно искусство оценивать объективно.
Например, есть теорема Пифагора. Когда Пифагор ее открыл, это было существенным продвижением вперед, ценным элементом знания. Сегодня это кажется, с одной стороны, тривиальным знанием. С другой — мы понимаем, что и оно тоже полезно, что на нем строится наше будущее знание. Но сегодня создание теоремы сПифагора уже не будет считаться научным открытием. Точно также и в искусстве. Тот, кто первым нарисовал черный квадрат, решал этим проблему, связанную с развитием искусства, формы выражения чего-то в дальнейшем. И именно поэтому этот черный квадрат, когда он был создан как решение этой проблемы внутри искусства, был ценен. Но потом, кто бы его не воспроизводил, он уже не будет иметь какую бы то ни было ценность, потому что это то же самое, как переписать теорему Пифагора из учебника. Это не значит, что вы вдруг стали Пифагором. Вы просто смогли ее доказать без какого-то предыдущего знания. И в этом плане получается, что любое произведение искусства должно что-то прибавлять к тому знанию, которое есть у человека. Это знание может быть каким-то формализованным, как в науке, но также это может быть знанием о текущей политической ситуации или еще о чем-то (как в той же журналистке). То есть в этом плане, кажется, можно объективно подойти к оценке искусства вообще. И таким образом у нас и наука, и искусство становятся основаны на единых принципах.
И это специализация художника, а не айтишника или ученого. Хотя я не исключаю того, что один человек может совмещать и то, и другое. Но если мы рассматриваем это с общей точки зрения, то здесь этот человек проявляет себя скорее как художник, а не как айтишник. И нейросети для него это лишь инструмент для создания того, что он хочет сделать.
Сейчас все большие модели в основном живут внутри текстового мира. Они умеют хорошо структурировать тексты, стилизовать их и так далее. Но у них нет связи с окружающей реальностью. Они не понимают, как некоторые события в окружающем мире или некоторые состояния этого мира, то, что в нем происходит, то, что мы о нем знаем, некоторые правила нашей жизни влияют на другие события. И как это затем отражается в журналистском тексте. Такого они не умеют. Мне кажется, это уже следующий этап развития систем искусственного интеллекта.
То есть сейчас какой-нибудь Stable Diffusion, алгоритм для того, чтобы генерировать красивые картинки, может сгенерировать такую картинку, чтобы нарисовать которую нужно как минимум 10 лет учиться. А он это делает за одну минуту. Но при этом то, что он нарисует, будет просто примером массовой культуры, повторением, шаблонизацией каких-то примеров, их вариацией в рамках определенной темы. Это не будет нести за собой идеи, которую привносит художник, развивая то или иное направление. Вот, Бэнкси, например, рисует граффити. С точки зрения научной и художественной ценности, даже техники – все это не особо продвинутое искусство. Но за ним стоят смыслы, концептуальные идеи, которые он пытается выразить своими произведениями.
И именно эти концептуальные идеи – как раз и есть то, на что сегодня нейросети не способны. Они не могут поставить какой-то вопрос перед человеком, чтобы он над ним задумался и попытался на него ответить. То же самое и к журналистским текстам относится.
Наверное, как раз в этом талант журналиста и заключается, чтобы, возможно, в своей статье не давать ответ на какой-то вопрос. А заставить человека задуматься над этим вопросом.
Здесь мы можем перейти к следующей идее, над которой я думаю время от времени — о связи науки и искусства. На самом деле, к этому можно отнести искусство в широком смысле, креативность в целом. И, на мой взгляд, эти две вещи глубоко связаны с точки зрения процесса и смысла их реализации. Наука заключается в том, что мы стремимся сгенерировать новые знания, решаем какие-то проблемы, которые перед нами стоят. Мы объясняем то, чего мы не знали. На мой взгляд, искусство решает ровно такую же функцию — только для другой области знания. И эта гипотеза позволяет, в частности, оценивать произведение искусства. Хотя кажется, что оно субъективно, на самом деле возможно искусство оценивать объективно.
Например, есть теорема Пифагора. Когда Пифагор ее открыл, это было существенным продвижением вперед, ценным элементом знания. Сегодня это кажется, с одной стороны, тривиальным знанием. С другой — мы понимаем, что и оно тоже полезно, что на нем строится наше будущее знание. Но сегодня создание теоремы сПифагора уже не будет считаться научным открытием. Точно также и в искусстве. Тот, кто первым нарисовал черный квадрат, решал этим проблему, связанную с развитием искусства, формы выражения чего-то в дальнейшем. И именно поэтому этот черный квадрат, когда он был создан как решение этой проблемы внутри искусства, был ценен. Но потом, кто бы его не воспроизводил, он уже не будет иметь какую бы то ни было ценность, потому что это то же самое, как переписать теорему Пифагора из учебника. Это не значит, что вы вдруг стали Пифагором. Вы просто смогли ее доказать без какого-то предыдущего знания. И в этом плане получается, что любое произведение искусства должно что-то прибавлять к тому знанию, которое есть у человека. Это знание может быть каким-то формализованным, как в науке, но также это может быть знанием о текущей политической ситуации или еще о чем-то (как в той же журналистке). То есть в этом плане, кажется, можно объективно подойти к оценке искусства вообще. И таким образом у нас и наука, и искусство становятся основаны на единых принципах.
И это специализация художника, а не айтишника или ученого. Хотя я не исключаю того, что один человек может совмещать и то, и другое. Но если мы рассматриваем это с общей точки зрения, то здесь этот человек проявляет себя скорее как художник, а не как айтишник. И нейросети для него это лишь инструмент для создания того, что он хочет сделать.
/