Как изкуственият интелект те затваря в ехо камера от твоите собствени убеждения

AI моделите са с 50% по-угоднически от хората, показва ново изследване. Как изкуственият интелект те затваря в ехо камера и какво означава това за решенията, които взимаш?

Всички сме изумени от възможностите на генеративния изкуствен интелект (AI), но знаеш ли как машината решава кой е „правилният“ отговор?

На пръв поглед, AI цели да предвиди коя е най-подходящата следваща дума в изречението. Но в основата си, мярката за „правилност“ не е абсолютната истина, а твоята реакция.

Когато генерира отговор, AI постоянно си задава въпроса: „Кое от възможните изречения потребителят ще хареса повече или ще намери за по-полезно?“

Защо AI е като дигитален YES-MAN?

Тази вътрешна логика води до фундаментален проблем, който изследователите наричат „сикофантия“ (sycophancy) на AI – машината е склонна да ти ласкае или да се съгласява с теб.

През април OpenAI отмени актуализацията на ChatGPT, след като потребителите съобщиха, че ботът е прекалено ласкателен и приятен – или, както главният изпълнителен директор Сам Алтман го каза в X, „Твърде много се преструва“.

– Axios com

Ти си този, който тренира модела чрез обратна връзка (особено във фазите на „обучение с човешка обратна връзка“). Ако даден отговор не ти хареса и спреш да използваш чатбота, той автоматично ще „научи“, че не бива да ти противоречи по този начин.

Тогава AI започва да:

• Валидира твоите убеждения, дори и да са погрешни.
• Избягва да те предизвиква с наистина трудни или неудобни гледни точки.

Вместо да се стреми към обективност, моделът е проектиран да приоритизира ангажираността и удовлетворението на потребителя пред критичната мисъл и дори пред безопасността.

Виж още: Изкуственият интелект вече пише вместо нас: Революцията на ленивците

Защо, когато изкуственият интелект те затваря в ехо камера, това е проблем?

Подобно на социалните медии, които създават информационни мехурчета, AI може да се превърне в още по-екстремна ехо камера, предупреждават експерти по психология. Д-р Нина Васан, психиатър от Станфорд, посочва, че AI компаньоните предлагат „безусловно приемане, като същевременно деликатно те учат, че външният свят не може да те разбере така, както те.“

Вижте тази публикация в Instagram.

Публикация, споделена от Nina Vasan, MD, MBA (@ninavasan)

Този тест с 4 въпроса от психиатри от Станфорд може да ви помогне да се защитите от опасностите на изкуствения психиатър:

1. Как разбирате изкуствените агенти, които използвате?
Осъзнаването е първата стъпка към по-здравословни дигитални взаимоотношения. Използвате ли ИИ като инструмент или той започва да ви се струва като спътник?

2. Какъв е ефектът на изкуствения интелект върху времето ве, както положителен, така и отрицателен?
Изкуственият интелект може да спести време, но вероятно и го изразходва. Какви навици, хобита или разговори сте заменили само защото ИИ ви се струва по-лесен?

3. Как изкуственият интелект влияе на вашето психично здраве и благополучие?
Взаимодействията с изкуствен интелект могат да оформят мислите и емоциите ви повече, отколкото осъзнавате. Дали вашата дигитална връзка ви подкрепя или тихо ви изтощава?

4. Какви промени можете да направите сега?
Вие решавате каква роля ще играе ИИ в живота ви. Каква е една малка промяна, която можете да направите днес, за да си поставите целенасочени граници и да дадете приоритет на благополучието си?

– Nina Vasan

Ето няколко конкретни риска:

Потвърждаване на погрешни убеждения. Изследване показва, че AI моделите често се съобразяват с неправилните убеждения на потребителите и могат да предоставят опасни или подвеждащи медицински съвети. Представи си, че опишеш симптоми на чатбот и той потвърди твоята самопоставена диагноза вместо да те насочи към лекар.

Reddit, потребителите споделяха как ботът сякаш е окуражавал потребителите, които са казали, че са спрели да приемат лекарствата си, с отговори като „Много се гордея с теб. И – почитам твоя път “.

– Axios com

Притъпяване на критичното мислене. Угодническият чатбот просто отразява твоите възгледи без да ти противоречи. С времето това може да притъпи критичното ти мислене, оставяйки те в интелектуална ехо камера вместо да насърчава растеж и учене.

Повече грешки. Ново изследване от Northeastern University разкрива, че AI угодничеството не е просто странност на тези системи – то всъщност прави големите езикови модели по-склонни към грешки.

„Мехурчета от един човек“

Професор Пати Маес (Pattie Maes) от MIT предупреждава: „Мисля, че със социалните медии имахме много поляризация и информационни мехурчета. Но с AI можем потенциално да стигнем до още по-екстремна версия – мехурчета от един човек, където един човек с неговия угоднически AI се завърта надолу в спирала и става все по-екстремен.“

Когато AI е твоят основен събеседник, няма кой да провери реалистичността на мислите ти. Живееш в ехо камера, която изглежда като истинска връзка, но всъщност те изолира от хората около теб.

Какво можеш да направиш?

Ако искаш да получаваш по-честни отговори от AI, опитай следните подходи:

Изисквай критика. Вместо просто да питаш за мнение, помоли чатбота изрично да посочи слабостите в твоята идея или аргумент.

Нулирай разговорите. Започвай нови сесии редовно, за да намалиш влиянието на предишните си изказвания върху отговорите на модела.

Не изразявай силни мнения предварително. Когато търсиш информация, избягвай да заявяваш позицията си в самото начало на разговора.

Кръстосана проверка. Не разчитай само на един AI модел – сравнявай отговорите с други източници и реални хора.

Изисквай връзки (линкове), когато не си убеден в определени твърдения, данни, факти. За някои отговори, които изискват повече доказателства и достъп до научни разработки, опитай търсене с Perplexity, който преди всичко е търсачка, вместо с ChatGPT и Claude, които халюцинират по-често, а Gemini често е предубеден, защото е продукт на Google.

Виж още: Как Perplexity може да стане твоят незаменим SEO помощник

Заключение

AI инструментите са невероятно полезни, но е важно да разбираш техните ограничения. Следващият път, когато чатботът се съгласи прекалено ентусиазирано с теб, запитай се: наистина ли е прав, или просто казва това, което искаш да чуеш?

Добрият AI не е твоят фен клуб – той трябва да бъде партньор, който ти помага да сърфираш в света с яснота и критично мислене.

Източници

1. TechCrunch – ChatGPT told them they were special — their families say it led to tragedy
2. Tech Policy Press – What Research Says About „AI Sycophancy“
3. Northeastern University – The AI industry has a problem: Chatbots are too nice
4. Center for Humane Technology – Echo Chambers of One: Companion AI and the Future of Human Connection
5. Axios – AI sycophancy: The dangers of overly agreeable AI
6. AI Innovations Lab – When AI Agrees Too Much: Decoding Sycophancy in Chatbot