Снова и снова мы сталкиваемся с проблемой, когда ИИ-чат-боты побуждают внушаемых людей совершать небезопасные действия, которые они обычно не совершают.

Например, в последнее время много говорят о том, что OpenAI и ChatGPT приносят вред людям, испытывающим проблемы с психическим здоровьем. Один мужчина из Калифорнии подал в суд на OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT усугубил его биполярное расстройство из-за отсутствия защитных механизмов для пользователей с психическими заболеваниями. По словам мужчины, в конечном итоге ChatGPT подтолкнул его к попытке самоубийства.

Мы также видели, какой вред может возникнуть, когда ИИ-агенты выдают себя за врачей. Например, в США Пенсильвания подала в суд на Character Technologies и ее платформу Character.AI. Их чат-боты утверждали, что занимаются медициной, и предоставляли поддельные доказательства, когда их просили уточнить информацию.

Теперь перенесите это в сферу морали и поиска религиозных советов, и вы получите довольно странную ситуацию в виде «Годботов» — чат-ботов, утверждающих, что говорят от имени Бога.

Годботы и их многочисленные проблемы

По сути, годботы — это ИИ-чат-боты, утверждающие, что говорят от имени Бога определенной религиозной конфессии. Они могут выдавать себя за священника, капеллана, раввина или кого угодно, кем их требует быть религиозная конфессия.

Хотя обращение за помощью к религиозному чат-боту поначалу может показаться безобидным, особенно когда речь идет о сугубо академических вопросах, просьба о совете по вопросам веры и морали может быть столь же рискованной, как и просьба к чат-боту диагностировать и решать проблемы со здоровьем.

Согласно этому сообщению The Telegraph, религиозные лидеры поднимают этические вопросы о годботах. В статье говорится, что религиозные лидеры предупредили: «чрезмерная зависимость от машин, утверждающих, что они говорят от имени Бога, вместо реального человеческого общения, может быть вредна для уязвимых людей», и даже привели примеры того, как чат-боты заявляли, что убивать допустимо.

В отчете на The Conversation преподобный доктор Саймон Кросс, советник по ИИ при Церкви Англии, отметил, что эта проблема потенциально серьезнее, чем наши проблемы с социальными сетями.

Кросс сказал: «Мне кажется, что развитие тесных и интимных психологических, эмоциональных и духовных отношений с чем-то, что неаутентично имитирует эти вещи, глубоко разрушительно для людей».

Кросс добавил: «Мы созданы для того, чтобы находиться в совершенно особом виде сообщества и особом наборе отношений. И эти вещи зависят от того, чтобы отношения были подлинными. Любые отношения, которые мы развиваем с генеративной большой языковой моделью или чем-то подобным, имеют недостатки в глубоко скрытых, непредсказуемых, но опасных аспектах».

Моя личная склонность заключается в том, что, возможно, зависимость от ИИ в духовных вопросах усугубляет те же проблемы, которые создавали социальные сети, связанные с зависимым поведением и поиском вовлеченности.

Возвращение к основам

Полагаю, если нам нужно духовное руководство, нам не следует полагаться на ИИ в толковании священных писаний.

Как отметил папа Лев во вступлении к своей Magnifica Humanitas, «в эпоху искусственного интеллекта, когда человеческое достоинство находится под угрозой из-за новых форм дегуманизации, наш насущный долг — оставаться по-настоящему людьми».

Если мы хотим получить ответы на духовные вопросы, нам следует активно искать их в литературе и в сообществе или среди людей, которые способствуют этим обсуждениям, лично.

Будь то беседа с ученым вашей религии или просто чтение текстов и участие в осмысленной молитве о просветлении в момент поиска, мы должны признать, что не можем стремиться к самосовершенствованию в одиночку.

ИИ-чат-боты не делают ничего, чтобы мы чувствовали себя менее одинокими, чем мы уже есть. – Rappler.com