Книжная полка

Кори Доктороу: Генераторы правдоподобных предложений

Время чтения 5 мин
Изображение к статье Кори Доктороу: Генераторы правдоподобных предложений
Я был удивлен, как никто другой, когда случайно обнаружил, что использую большую языковую модель (то есть чатбота с "искусственным интеллектом"), чтобы написать для меня текст. Я был удивлен вдвойне, когда обнаружил, что впечатлен тем, что он написал.
 
В прошлом месяце авиакомпания заставила меня остаться на ночь в Нью-Йорке, когда мой рейс в Лос-Анджелес был отменен из-за ошибки авиадиспетчеров. Представитель авиакомпании на стойке посоветовал мне попробовать улететь резервным рейсом на следующее утро и пообещал, что, хотя у него не было для меня ваучеров, если я забронирую отель, авиакомпания возместит мне расходы по возвращении домой.
 
Это было не дешево и не просто. Многие из нас в ту ночь оказались в Нью-Йорке на мели. Все номера в гостиницах Квинса и Манхэттена были заняты, а в той развалюхе, которую я нашел в Бруклине, цены поднялись до более чем 300 долларов за ночь. Добавьте сюда два такси по 70 долларов, и я попал на серьезные деньги.
 
Поэтому, когда я (наконец-то) добрался до дома и в авиакомпании мне сказали, что у них есть политика не возмещать расходы пассажирам, попавшим в затруднительное положение из-за проблем с воздушным движением, я был в ярости. Когда представитель авиакомпании остался при своем мнении даже после того, как я объяснил, что авиакомпания обещала мне возместить расходы, я по прежнему был в ярости. Я решил сделать то, чего никогда раньше не делал, - подать на авиакомпанию в суд мелких тяжб.
 
Я набрал в Google "как подать на авиакомпанию в суд мелких тяжб" и попал на сайт, где все было четко изложено. Сначала попытайтесь решить вопрос с авиакомпанией (сделано). Затем отправьте письмо с "последним требованием". И, наконец, подать в суд (подробнее об этом ниже). Нужна ли мне была помощь с этим письмом-требованием?
 
Нужна! Я написал проект письма. Я 20 лет проработал в юридической фирме, занимающейся проведением кампаний, и на своем веку повидал немало угрожающих адвокатских писем. Я даже получил их немало - от владельца цифрового дилера оружия, от адвоката Гвинет Пэлтроу, от адвокатов, представляющих интересы владельцев частного терминала класса люкс в аэропорту Лос-Анджелеса, от адвоката Ральфа Лорена, от адвокатов опиоидной семьи Саклер и т.д. Когда вы пишете о коррупции среди богатых и влиятельных людей, юридические угрозы - это просто часть работы.
 
Мое письмо с угрозами было довольно хорошим, если можно так выразиться. Фактологическое, четкое и очень строгое. Я вставил его в форму и нажал кнопку "Отправить", не зная, что произойдет дальше. Веб-страница предупредила, что мне придется подождать две-три минуты.
 
Когда через пару минут я вернулся на вкладку, то обнаружил, что сайт скормил мое письмо большой языковой модели (вероятно, ChatGPT), и оно превратилось в злобное адвокатское письмо, от которого слезились глаза, сжимались кишки.
 
Черт возьми, это меня напугало.
 
Давайте проясним одну вещь. Это было очень хорошее адвокатское письмо, но оно не было хорошим письмом. Юридические письма с угрозами обычно многословны, запутанны и самодовольны (юридические записки еще хуже: степенны, чопорны и полны вымученного синтаксиса).
 
Это письмо выглядело так, как будто его составлял помощник юриста, работающий за 600 долларов в час на адвоката в белых туфлях со ставкой 1500 долларов в час. Именно это и делало письмо хорошим: оно посылало сигнал: "Человек, отправивший это письмо, готов потратить 600 долларов только на то, чтобы угрожать вам. Они серьезно разозлены и готовы потратить кучу денег, чтобы вы об этом узнали". Как топорщащийся хвост у кошки или загривок у собаки, суть письма не в его тексте. Реальный смысл заключается в самом проявлении угрозы.
 
Письма часто представляют собой сигнал, выходящий за рамки их содержания. Возьмем, к примеру, рекомендательные письма, которые профессора пишут для аспирантов: это немалый труд, и сам факт того, что профессор готов написать такое письмо, говорит об уважении к студенту, о котором идет речь.
 
Один мой знакомый профессор недавно признался, что все сотрудники его кафедры теперь передают написание рекомендательных писем на ChatGPT. Они вводят в чатбот несколько пунктов, и он выдает письмо, которое они слегка редактируют и подписывают.
 
Естественно, это медленно, но верно приводит к росту числа рекомендательных писем, которые их просят написать. Когда студент знает, что написание письма - дело нескольких секунд, он охотнее обращается с просьбой, а преподаватель охотнее отвечает согласием (или, скорее, чувствует себя неловко, отказывая).
 
Следующий шаг очевиден: по мере распространения рекомендательных писем люди, получающие их, будут просить чат-бота кратко изложить их суть в нескольких пунктах, создавая процесс, в котором несколько пунктов раздуваются ботом до страниц многословия, а затем снова сдуваются до нескольких пунктов другим ботом.
 
Но какой бы сигнал ни остался после завершения этого процесса, он будет лишен одного элемента: сигнала о том, что это письмо было дорогостоящим и поэтому заслуживает внимания только на этом основании.
 
Такая же участь, несомненно, ждет и письма-страшилки. Как только станет известно, что эти письма могут быть бесплатно сгенерированы анонимным сайтом робоюрист, сам факт существования такого письма уже не будет свидетельствовать о том, что отправитель готов пойти на все ради справедливости. Это будет означать лишь то, что он умеет пользоваться поисковой системой.
 
Мы это уже проходили. Когда я начинал свою карьеру в активизме, группы, подобные той, в которой я работаю, только начинали понимать, как использовать онлайновые формы, чтобы помочь людям общаться со своими избранными представителями и с регулирующими органами, желающими получить комментарии общественности. В те первые годы законодатели и регулирующие органы рассматривали эти письма как мощные сигналы, эквивалентные тем письмам, которые люди писали, приходя в публичную библиотеку и прося библиотекаря-справочника помочь им разобраться, как отправить комментарий в то или иное ведомство, или заправляя бумагу в пишущую машинку, чтобы отправить письмо своему избранному представителю (предварительно позвонив в справочную, чтобы узнать номер офиса представителя, а затем позвонив в офис, чтобы узнать адрес).
 
Эти письма были невероятно эффективны - какое-то время. Потом они перестали быть таковыми - адресаты поняли, что письма отправлять гораздо проще, и снизили их значимость. В ответ на это мы стали вызывать еще больший интерес, а затем создали инструменты, помогающие людям звонить своим представителям и высказывать им свое мнение. Это тоже было эффективно, но затем сошло на нет, поскольку законодатели не приняли во внимание и этот сигнал.
 
Сегодня активисты продолжают разрабатывать новые способы помочь людям послать недвусмысленный сигнал своим правительствам: координировать массовые демонстрации и личные встречи. Члены SAG-AFTRA и Гильдии писателей каждый день стоят в пикетах в моем районе, сгорая под палящим куполом жары.
 
ChatGPT может взять на себя множество задач, которые, в общем-то, сводятся к "запугиванию". Он может писать юридические угрозы. Если вам нужно написать 2 000 слов о том, как я впервые съел яйцо, чтобы рецепт омлета попал в поисковую систему, чатбот справится с этой задачей. Хотите наводнить сайт отзывов хвалебными отзывами о своем бизнесе или жалобами на конкурентов? Легко. Рекомендательные письма? Нет проблем.
 
Чушь порождает чушь, потому что никто не хочет быть обманутым. В войне с брехней чат-боты - это оружие массового поражения. Вся эта проза не является хорошей, не является действительно общественно полезной, но на нее есть спрос. Парадоксально, но чем больше бреда, тем больше фильтров для бреда, а это требует еще больше бреда для его преодоления.
 
Я не знаю, заставит ли мое письмо робоюристу авиакомпанию раскошелиться на 439,85 долл.
 
В конце концов, я только сегодня отправил письмо по почте. Чатбот сказал мне сделать это через FedEx, что, конечно, тоже посылает определенный сигнал.
 


Немного об авторе

Пользователь Alex

Кот Ученый

Люблю читать хорошие книги

Ссылки:



Добавить комментарий

Оставлять комментарии можно только зарегистрированным пользователям. Чтобы оставить комментарий, войдите или зарегистрируйтесь, если у вас еще нет аккаунта.