Home-theater-designers
Чатботовете съществуват от години, но възходът на големи езикови модели, като ChatGPT и Google Bard, даде нов живот на индустрията на чатботовете.
Милиони хора сега използват AI чатботове по целия свят, но има някои важни рискове и опасения за поверителността, които трябва да имате предвид, ако искате да изпробвате един от тези инструменти.
1. Събиране на данни
Повечето хора не използват чатботове само за да поздравят. Съвременните чатботове са проектирани да обработват и отговарят на сложни въпроси и заявки, като потребителите често включват много информация в своите подкани. Дори ако задавате само прост въпрос, всъщност не искате той да надхвърля разговора ви.
Според Разделът за поддръжка на OpenAI , можете да изтриете журналите за чат на ChatGPT, когато пожелаете, и тези журнали ще бъдат заличени за постоянно от системите на OpenAI след 30 дни. Компанията обаче ще запази и прегледа определени журнали за чат, ако са били маркирани за вредно или неподходящо съдържание.
Друг популярен AI chatbot, Claude, също следи предишните ви разговори. Център за поддръжка на Anthropic заявява, че Клод проследява „вашите подкани и резултати в продукта, за да ви осигури последователно изживяване с продукта във времето в съответствие с вашите контроли“. Можете да изтриете разговорите си с Claude, така че да забрави за какво сте говорили, но това не означава, че Anthropic веднага ще изтрие вашите регистрационни файлове от своите системи.
Това, разбира се, повдига въпроса: съхраняват ли се данните ми или не? ChatGPT или други чатботове използват ли данните ми?
какво да правя със стари компютърни монитори
Но притесненията не спират до тук.
Как се учи ChatGPT?
За да предоставят информация, големите езикови модели се обучават с огромни количества данни. Според Научен фокус , само ChatGPT-4 получи 300 милиарда думи информация по време на своя период на обучение. Това не е взето направо от няколко енциклопедии. По-скоро разработчиците на chatbot използват маси от информация от интернет, за да обучат своите модели. Това може да включва данни от книги, филми, статии, записи в Wikipedia, публикации в блогове, коментари и дори сайтове за рецензии.
Имайте предвид, че в зависимост от политиката за поверителност на разработчика на chatbot, някои от гореспоменатите източници може да не се използват в обучението.
Мнозина критикуваха ChatGPT, твърдейки, че е нещо като кошмар по отношение на поверителността, че На ChatGPT не може да се вярва . И така, защо е така?
Тук нещата стават малко замъглени. Ако попитате директно ChatGPT-3.5 дали има достъп до рецензии на продукти или коментари за статии, ще получите категорично отрицание. Както можете да видите на екранната снимка по-долу, GPT-3.5 заявява, че не е получил достъп до коментари на потребителски статии или рецензии на продукти в своето обучение.
По-скоро беше обучен с помощта на „разнообразен набор от текстове от интернет, включително уебсайтове, книги, статии и други публично достъпни писмени материали до септември 2021 г.“
Но дали случаят е същият за GPT-4?
Когато попитахме GPT-4, ни беше казано, че „OpenAI не е използвал конкретни потребителски отзиви, лични данни или коментари към статии“ в периода на обучение на чатбота. Освен това GPT-4 ни каза, че отговорите му се генерират от „модели в данните [той] е бил обучен, които се състоят основно от книги, статии и друг текст от интернет“.
Когато проучихме по-нататък, GPT-4 заяви, че определено съдържание в социалните медии може наистина да бъде включено в неговите данни за обучение, но създателите винаги ще останат анонимни. GPT-4 изрично заяви, че „Дори ако съдържанието от платформи като Reddit е част от данните за обучение, [то няма] достъп до конкретни коментари, публикации или каквито и да било данни, които могат да бъдат свързани обратно към отделен потребител.“
Друга забележителна част от отговора на GPT-4 е следният: „OpenAI не е изброил изрично всеки използван източник на данни.“ Разбира се, би било трудно за OpenAI да изброи източници на стойност 300 милиарда думи, но това оставя място за спекулации.
В ан Статия на Ars Technica , беше заявено, че ChatGPT наистина събира „лична информация, получена без съгласие“. В същата статия беше спомената контекстуална цялост, концепция, която се отнася до използването само на нечия информация в контекста, в който е била използвана първоначално. Ако ChatGPT наруши тази контекстуална цялост, данните на хората могат да бъдат изложени на риск.
никога не съм получавал моя пакет на Amazon
Друг повод за безпокойство тук е съответствието на OpenAI с Общ регламент за защита на данните (GDPR) . Това е регламент, наложен от Европейския съюз с цел защита на данните на гражданите. Различни европейски държави, включително Италия и Полша, започнаха разследвания на ChatGPT поради опасения относно съответствието му с GDPR. За кратко ChatGPT дори беше забранен в Италия поради опасения за поверителността.
OpenAI заплашваше да се оттегли от ЕС в миналото поради планирани регулации за ИИ, но оттогава това беше оттеглено.
ChatGPT може да е най-големият AI chatbot днес, но проблемите с поверителността на chatbot не започват и не свършват с този доставчик. Ако използвате сенчест чатбот с недостатъчна политика за поверителност, вашите разговори може да бъдат злоупотребени или силно чувствителна информация може да бъде използвана в неговите данни за обучение.
2. Кражба на данни
Като всеки онлайн инструмент или платформа, чатботовете са уязвими за киберпрестъпления. Дори ако чатботът е направил всичко възможно, за да защити потребителите и техните данни, винаги има шанс опитен хакер да успее да проникне във вътрешните му системи.
Ако дадена услуга за чатбот съхранява вашата чувствителна информация, като данни за плащане за вашия премиум абонамент, данни за контакт или подобни, това може да бъде откраднато и използвано, ако възникне кибератака.
Това е особено вярно, ако използвате по-малко сигурен чатбот, чиито разработчици не са инвестирали в адекватна защита на сигурността. Не само вътрешните системи на компанията могат да бъдат хакнати, но вашият собствен акаунт има шанс да бъде компрометиран, ако няма предупреждения за влизане или слой за удостоверяване.
Сега, когато чат ботовете с изкуствен интелект са толкова популярни, киберпрестъпниците естествено се стекоха да използват тази индустрия за своите измами. Фалшивите уебсайтове и плъгини на ChatGPT са сериозен проблем, откакто чатботът на OpenAI стана масов в края на 2022 г., като хората се поддават на измами и раздават лична информация под прикритието на легитимност и доверие.
През март 2023 г. MUO докладва за a фалшиво разширение ChatGPT за Chrome, което краде влизания във Facebook . Плъгинът може да използва задната врата на Facebook, за да хакне акаунти с висок профил и да открадне потребителски бисквитки. Това е само един пример от множество фалшиви услуги на ChatGPT, предназначени да измамят неподозиращи жертви.
3. Инфекция със зловреден софтуер
Ако използвате сенчест чатбот, без да го осъзнавате, може да откриете, че чатботът ви предоставя връзки към злонамерени уебсайтове. Може би чатботът ви е предупредил за изкушаващо раздаване или е предоставил източник за някое от изявленията си. Ако операторите на услугата имат незаконни намерения, целта на платформата може да е да разпространява зловреден софтуер и измами чрез злонамерени връзки.
Алтернативно, хакерите могат да компрометират легитимна услуга за чатбот и да я използват за разпространение на зловреден софтуер. Ако този чатбот е много хора, тогава хиляди или дори милиони потребители ще бъдат изложени на този зловреден софтуер. Фалшивите приложения на ChatGPT дори са били в Apple App Store , така че е най-добре да стъпвате внимателно.
По принцип никога не трябва да кликвате върху връзки, предоставени от чатбот преди пуснете го през уебсайт за проверка на връзки . Това може да изглежда дразнещо, но винаги е най-добре да сте сигурни, че сайтът, към който сте отведени, няма злонамерен дизайн.
как да получите надписи в tiktok
Освен това никога не трябва да инсталирате плъгини и разширения за chatbot, без първо да проверите легитимността им. Направете малко проучване около приложението, за да видите дали е добре прегледано, а също така потърсете разработчика на приложението, за да видите дали ще намерите нещо съмнително.
Чатботовете не са неподатливи на проблеми с поверителността
Подобно на повечето онлайн инструменти в днешно време, чатботовете са били многократно критикувани за техните възможни клопки за сигурността и поверителността. Независимо дали става дума за доставчик на чатботове, които се борят, когато става въпрос за безопасността на потребителите, или за продължаващите рискове от кибератаки и измами, от решаващо значение е да знаете какво събира вашата услуга за чатбот за вас и дали използва адекватни мерки за сигурност.