Похоже AI уже на пути к созданию собственного языка.
Ученые, исследовавшие внутреннюю работу арт-ботов, зафиксировали некоторые действительно странные внутренние состояния этих машин.
Недавно два исследователя из Техасского университета в Остине обнаружили, что DALL-E 2 генерирует явно тарабарские фразы, которые в самой модели, похоже, имеют какой-то последовательный смысл.
Они заметили, что модель генерирует фразу "Apoploe vesrreaitais" - и когда они передали ее обратно в DALL-E 2 в качестве подсказки, она нарисовала птиц.
Аналогично, "Contarra ccetnxniams luryca tanniounons" заставляет DALL-E 2 рисовать жуков или вредителей.
Wa ch zod ahaakes rea" заставляет его рисовать морепродукты.
Почему? Как модель создала этот странный, внутренний новый язык?
Ученые понятия не имеют, хотя, похоже, это какой-то странный артефакт состязательного характера текстового кодировщика DALL-E 2.
Когда вы читаете советы экспертов по написанию подсказок, они говорят о таких приемах, как постоянное повторение фраз, как это делает Майкл Тейлор:
Чтобы убедиться, что Dalle-2, Midjourney или другие инструменты искусственного интеллекта действительно прибивают важные символы при генерации изображений, простое повторение работает удивительно хорошо. Например, подсказка: "Гомер Симпсон, из Симпсонов, ест пончик, Гомер Симпсон, Гомер Симпсон, Гомер Симпсон".
Как будто нам нужно загипнотизировать AI, чтобы он сосредоточился на предмете, который нас волнует. Вы можете увидеть это и в нагромождении описательных слов, которые обычно используют авторы подсказок.
Рассмотрим слова, использованные Xe Iaso при работе со Stable Diffusion, чтобы создать это изображение:
Девушка с длинными зелеными волосами с кошачьими ушками в оранжевом кимоно, ночь, много фейерверков, фестиваль, счастливый счастливый, красивый пейзаж, студия Гибли, ворота дзен, инь-янь, пагода, красочное небо, автор Хаяо Миядзаки, вибрации Старбакс
Поэтично, не правда ли? Разговор с искусственным интеллектом похож на игру в слова - как игра в "Шарады", где вы должны заставить своего собеседника произвести нужный результат, говоря на определенную тему.
Только в данном случае цель - найти правильное заклинание, которое пробудит духов, живущих в этом оракуле, и призовет их исполнить вашу просьбу.
Возможно, в нынешней фазе написания подсказок есть что-то культурно разъясняющее. Поскольку это так не похоже на Тьюринга - поскольку требует от нас общения в такой тщательно продуманной манере - это может помочь развеять идею, что эти AI интеллектуально "похожи" на нас. Возможно, когда-нибудь они такими и станут! Но пока что они чертовски странные.
