9 опасности от използването на AI като ваш безплатен терапевт или психиатър

9 опасности от използването на AI като ваш безплатен терапевт или психиатър
Читатели като вас помагат в подкрепа на MUO. Когато правите покупка чрез връзки на нашия сайт, ние може да спечелим комисионна за партньор. Прочетете още.

С високите разходи за психотерапия е разбираемо защо някои пациенти обмислят да се консултират с ИИ за съвет за психично здраве. Генеративните AI инструменти могат да имитират разговорна терапия. Просто трябва ясно да структурирате подканите си и да предоставите контекст за себе си.





AI отговаря на общи въпроси за психичното здраве, но използването му за терапия може да причини повече вреда, отколкото полза. Все пак трябва да потърсите професионална помощ. Ето какви са опасностите да поискате от генеративни AI инструменти като ChatGPT и Bing Chat да предоставят безплатна терапия.





MAKEUSEOF ВИДЕО НА ДЕНЯ ПРЕВЪРТЕТЕ, ЗА ДА ПРОДЪЛЖИТЕ СЪС СЪДЪРЖАНИЕТО

1. Пристрастията на данните произвеждат вредна информация

ИИ е по своята същност аморален. Системите извличат информация от своите набори от данни и произвеждат формулирани отговори на входа - те просто следват инструкции. Въпреки този неутралитет, AI пристрастия все още съществува. Лошото обучение, ограничените набори от данни и несложните езикови модели карат чатботовете да представят непроверени, стереотипни отговори.





Всички генеративни AI инструменти са податливи на пристрастия. Дори ChatGPT, един от най-широко известните чатботове, понякога произвежда вредни резултати. Проверете отново всичко, което AI казва.

ще бъде ли Windows 10 отново безплатен

Когато става въпрос за лечение на психичното здраве, избягвайте напълно неуважавани източници. Управлението на психичните състояния вече може да бъде предизвикателство. Необходимостта от съвети за проверка на фактите ви поставя в ненужен стрес. Вместо това се фокусирайте върху възстановяването си.



2. AI има ограничени познания за реалния свят

Повечето генеративни инструменти имат ограничени познания за реалния свят. Например, OpenAI обучаваше ChatGPT само за информация до 2021 г. Екранната снимка на разговор по-долу показва неговата борба да извлече скорошни доклади за тревожно разстройство.

  ChatGPT Can't Tell What Percentage of the Population has Anxiety

Имайки предвид тези ограничения, прекомерното разчитане на AI чатботове ви прави склонни към остарели, неефективни съвети. Иновациите в медицината се появяват често. Нуждаете се от професионалисти, които да ви напътстват през новите програми за лечение и последните открития.





По същия начин попитайте за опровергани методи. Сляпото следване на противоречиви, неоснователни практики, базирани на алтернативната медицина, може да влоши състоянието ви. Придържайте се към опции, базирани на доказателства.

3. Ограниченията за сигурност забраняват определени теми

Разработчиците на AI поставят ограничения по време на фазата на обучение. Етичните и морални насоки спират аморалните AI системи да представят вредни данни. В противен случай мошениците биха могли да ги експлоатират безкрайно.





Въпреки че са полезни, насоките също възпрепятстват функционалността и гъвкавостта. Вземете Bing AI като пример. Неговите твърди ограничения му пречат да обсъжда чувствителни въпроси.

Трябва обаче да сте свободни да споделяте негативните си мисли - те са реалност за мнозина. Потискането им може просто да причини повече усложнения. Само ръководени, основани на доказателства планове за лечение ще помогнат на пациентите да преодолеят нездравословните механизми за справяне.

4. AI не може да предписва лекарства

Само лицензирани психиатри предписват лекарства. AI chatbots предоставят само основни подробности за програмите за лечение, на които се подлагат пациентите с психично здраве. Никое приложение не може да пише рецепти. Дори ако сте приемали едни и същи лекарства в продължение на години, пак ще ви е необходима лекарска рецепта.

Чатботовете имат шаблонни отговори за тези запитвания. Bing Chat ви дава задълбочено обяснение на най-разпространените лекарства за психично здраве.

как да гледате YouTube с възрастово ограничение
  Bing Chat обяснява лекарствата за тревожност

Междувременно ChatGPT отклонява темата към алтернативната медицина. Вероятно ограничава резултатите, за да предотврати казването на нещо вредно или подвеждащо.

  ChatGPT Can't Provide Prescription Medication

5. Чатботовете представят обща информация

AI отговаря на общи въпроси за психичното здраве. Можете да ги използвате, за да изучавате основните възможности за лечение, да забелязвате общи симптоми и да изследвате подобни случаи. Правилното изследване ви помага да изградите самосъзнание. Възстановяването ще протече по-гладко, ако разберете психическото си състояние и емоционалните си причини.

Само имайте предвид, че AI произвежда обща информация. Разговорът по-долу показва, че ChatGPT представя разумен, но опростен план за действие за някой, който изпитва панически атаки.

  ChatGPT дава общи съвети за паник атака

Един професионален съветник или терапевт би надхвърлил това, което AI предлага. Можете да използвате резултатите от AI като отправна точка за по-добро разбиране на академични списания и научни статии, но не забравяйте да направите по-задълбочено проучване или да се консултирате с професионалист.

6. Самодиагностиките рядко са точни

AI позволява самодиагностика. Вместо да плащат за терапия, пациентите искат от чатботовете да имитират специалисти по психично здраве. Това е по-бързо и по-евтино от резервация на консултации.

Въпреки че е удобно, рисковете от самодиагностицирането на психични заболявания далеч надхвърлят ползите. AI извлича информация само от своите набори от данни. Чатботовете нито ще анализират, нито ще диагностицират състоянието ви, тъй като имат ограничена информация за цялостното ви здраве.

Разговорът по-долу показва, че ChatGPT оценява персона. Само с общи медицински симптоми, споменати в подканата, има проблеми със стесняването на диагнозата.

  ChatGPT Can't Determine Your Disease Based on Symptoms

Като общо правило, избягвайте напълно самодиагностиката. Получаването на грешен план за лечение или пренебрегването на симптомите ще доведе до повече усложнения.

7. AI няма достъп до вашите медицински досиета

Генеративни AI инструменти като ChatGPT се учат от разговори . Те използват контекстна памет, за да запомнят подробностите, които споменавате, като по този начин подобряват точността и уместността на изхода.

Вземете разговора по-долу като пример. Лицето в prompt се бори с дългове, така че ChatGPT включи финансовата свобода в своите съвети против безпокойство.

  Споделяне на финансови проблеми с ChatGPT

С достатъчно контекст AI може да започне да предоставя персонализирани планове. Проблемът е, че генеративните AI инструменти имат лимити за токени - те помнят само ограничено количество данни.

  ChatGPT Справяне с първопричината за безпокойството, свързано с финансите

Точните ограничения варират според платформата. Bing Chat започва нови чатове след 20 завъртания, докато ChatGPT помни последните 3000 думи от разговорите. Но така или иначе, нито един от инструментите няма да побере всичките ви медицински досиета. В най-добрия случай генеративните инструменти за изкуствен интелект могат да свързват само избрана информация, като скорошни диагнози или настоящите ви емоции.

как да се отървете от използването на 100 диска

8. Машините не могат да ви съчувстват

Емпатията играе критична роля в терапията. Разбирането на целите, нуждите, начина на живот, вътрешните конфликти и предпочитания на пациента помага на специалистите да персонализират възможностите за лечение. Няма универсален подход към психичното здраве.

За съжаление, машините са лишени от емоции. AI далеч не е достигнал уникалност , въпреки че езиковите модели значително напреднаха през последните години.

AI просто имитира емпатия. Когато се обсъжда психичното здраве, той цитира полезни ресурси, използва внимателен език и ви насърчава да посетите професионалисти. В началото звучат добре. С напредването на разговорите ще забележите няколко повтарящи се съвета и шаблонни отговори.

Този разговор показва, че Bing Chat прави общ отговор. Трябваше да зададе отворен въпрос.

  Bing Chat Can't Empathize With Someone With Depression

Междувременно ChatGPT задава отворени въпроси, но предоставя опростени съвети, които ще намерите навсякъде другаде онлайн.

  ChatGPT Дава съвети за депресия и управление на дългове

9. AI не проследява напредъка ви

Управлението на симптомите на психичните заболявания включва дългосрочно лечение и наблюдение. Няма лесно лекарство за психични заболявания. Както повечето пациенти, може да опитате няколко програми. Техните ефекти варират от човек на човек - небрежното обвързване с генерични опции дава незначителни резултати.

Мнозина намират процеса за непосилен. Ето защо трябва да потърсите помощ от образовани, съпричастни професионалисти, вместо от напреднали езикови модели.

Потърсете хора, които ще ви подкрепят по време на вашето пътуване. Те трябва да проследят напредъка ви, да преценят кои планове за лечение работят, да се справят с постоянните симптоми и да анализират тригерите за психичното ви здраве.

Не можете да замените консултациите с AI Chatbots

Използвайте само генериращи AI инструменти за основна поддръжка. Задавайте общи въпроси относно психичното здраве, възможностите за изучаване на терапия и проучете най-реномираните професионалисти във вашия район. Просто не очаквайте те да заменят консултациите изцяло.

По същия начин проучете други управлявани от AI платформи, които предоставят подкрепа за психично здраве. Headspace съдържа видеоклипове с насочена медитация, Amaha проследява настроението ви, а Rootd учи дихателни упражнения. Отидете отвъд ChatGPT и Bing Chat, когато търсите ресурси за психично здраве.