Защо трябва да сме внимателни с ChatGPT, който е добре обмислена играчка

Накратко искам да обясня, ​защо трябва да сме внимателни с ChatGPT. Идеята ми не е, да те отказвам да го използваш, а да предизвикам твоето внимание.

​Много рисковано е да използваш ChatGPT (както и всеки друг генеративен изкуствен интелект) по теми, които са ти непознати.

Защо?

Защо трябва да сме внимателни с ChatGPT?

В някои отношения това е най-мощният и универсален инструмент в света по отношение на генериране, креативност и брейнсторминг, но…

1. Цитира фалшиви източници, които не съществуват

​Забелязах, че измисля цитати, проучвания и много други неща.

Ако се интересуваш от източниците по някоя тема, е задължително да ги проверяваш. Може да ти се случи да ти разкаже пасаж от книга, който никъде няма да можеш да откриеш.

​Особено е важно да не се използва за исторически изследвания, ако не си експерт. Измисля много. Това особено е важно за хората, които задават на ChatGPT, пък и на Grok (много модерно напоследък), следния въпрос: „Вярно ли е това?“

Въпросният изкуствен интелект е подведен от случайността на израза, за който се отнася горният въпрос, и дава случаен отговор.

Въпросите трябва да се поставят с добре обмислени подсказки, в които се съдържа и част от отговора. Само така ще получиш отговор, който да е с по-голяма вероятност верен.

​Забележка: Ако си много внимателен и компетентен, рискуваш да загубиш време, вместо да го спечелиш, така че какъв е смисълът?

2. ChatGPT „твърди“, че е сигурен в невярна информация

Когато му подчератеш грешките, ще те обсипе с похвали, колко си прав ти и колко се извинява. Просто така е програмиран. Да потвърждава всичко, което ти утвърждаваш.

Потвърждава твоите предубеждения, ако не го настроиш правилно (а почти никой не го прави).

​Ако искаш да говориш с някой, който е съгласен с теб, попитай ChatGPT (или AI като цяло).

​В допълнение към факта, че може да ти даде грешен отговор (и забелязваш това, само ако си експерт в областта), ако не се използва правилно, рискуваш да потвърдиш собствените си предубеждения и убеждения, без да стигнеш до истината.

​И има проучвания и изследвания, които потвърждават, че най-новите версии имат по-висок риск от халюцинации.

3. Много малки разлики в начина, по който задаваш въпроси, могат да генерират различни, дори противоположни отговори

Всъщност, ако му зададеш същия въпрос на следващия ден, може да ти даде съвсем различен отговор!

4. Внимавай, когато го използваш за сериозни теми

​Внимавай да не го използваш като основен източник на сериозна финансова, здравна или бизнес информация: тези, които го правят, рискуват да платят последствията, дори скъпо!

​Сладък е, готин е, изключително универсален е, но всъщност неизползваем без задълбочени проверки в сериозни контексти.

Виж още: 5 критични грешки при работа с изкуствен интелект в корпоративния свят

Тогава, какво ми препоръчваш, би ме запитал ти

Не ме разбирай погрешно, ChatGPT ​е отличен инструмент, ако знаеш неговите граници и го погледнеш критично.

​Нека обаче кажa също, че трябва да бъде настроен, използван и персонализиран правилно. Тогава действителната му стойност на практика се променя значително.

Има огромна разлика в начина на използване. Да, трябва да сме внимателни с ChatGPT.

Също е много валиден инструмент за брейнсторминг.

Лично аз предпочитам напоследък Perplexity, който по-надежден в търсенето на „истинското“, особено с Pro абонамент. Открива ми научни публикации, скрити дълбоко в Google. След това обобщава и оформя нещата, без особени излишни приказки и без отвратителното ласкаене.

Заключение

Всичко, което цитира фалшиви източници, може да даде информация „X“ или обратното, въз основа на минимални вариации в подканата; или да каже точно обратното втория път, когато го попиташ нещо, не е „сериозен“ инструмент.

Това е „играчка“. Както и много вторични инструменти, опиращи се на този тип изкуствен интелект.

Скоро ми се случи да попитам Google на български, колко калории се губят с гладене. Отговорът на неговия изкуствен интелект Search Labs | AI Overview, отначало ме озадачи, като ми написа, че гладенето е много опасно и могат да се разболеят бъбреците, ако много се глади. После се усетих, че беше объркал гладене с гладуване. В повторно запитване вече оправи грешката. Това показва колко несигурни са отговорите.

​ChatGPT често е като софистичен разказвач: винаги има готов, правдоподобен, ясен, сбит, убедителен, привидно верен отговор… но всъщност не знае за какво говори!

Това е концепция, казвана и повтаряна от експерти, но винаги е добре да я запомниш.

Виж още много за изкуствения интелект: Изкуствен интелект