Home-theater-designers
Изкуственият интелект (AI) ще трансформира цели сегменти от нашето общество, независимо дали ни харесва или не, и това включва световната мрежа.
Със софтуер като ChatGPT, достъпен за всеки с интернет връзка, става все по-трудно да се отдели съдържанието, генерирано от AI, от създаденото от човешко същество. Добре, че имаме AI детектори за съдържание, нали?
MAKEUSEOF ВИДЕО НА ДЕНЯ ПРЕВЪРТЕТЕ, ЗА ДА ПРОДЪЛЖИТЕ СЪС СЪДЪРЖАНИЕТО
Работят ли AI детекторите за съдържание?
AI детекторите за съдържание са специализирани инструменти, които определят дали нещо е написано от компютърна програма или човек. Ако просто въведете в Google думите „AI content detector“, ще видите има десетки детектори там, всички твърдят, че могат надеждно да разграничат човешки и нечовешки текст.
Начинът, по който работят, е сравнително прост: поставяте текст и инструментът ви казва дали е генериран от AI или не. В по-технически термини, използвайки комбинация от техники за обработка на естествен език и алгоритми за машинно обучение, AI детекторите на съдържание търсят модели и предсказуемост и извършват повиквания въз основа на това.
Това звучи страхотно на хартия, но ако някога сте използвали инструмент за откриване на изкуствен интелект, знаете много добре, че те са меко казано неуспешни. По-често те откриват съдържание, написано от хора, като изкуствен интелект или текст, създаден от човешки същества, като генериран от изкуствен интелект. Всъщност някои са смущаващо лоши в това, което трябва да правят.
Колко точни са AI детекторите на съдържание?
Ако сте в Съединените щати, първият резултат от търсенето с Google за „детектор на съдържание с изкуствен интелект“ е writer.com (известен преди като Qordoba; това е платформа за съдържание с изкуствен интелект, която също има свой собствен детектор). Но когато поставите част от това произволно Асошиейтед прес статия в инструмента, той твърди, че има много голям шанс да е генериран от изкуствен интелект.
Така че writer.com се е объркал.
Честно казано, другите детектори на съдържание с изкуствен интелект едва ли са по-добри. Те не само произвеждат фалшиви положителни резултати, но също така маркират AI съдържание като човешко. И дори когато не го правят, извършването на незначителни промени в текста, генериран от изкуствен интелект, е достатъчно, за да премине с отличие.
През февруари 2023 г. преподавателят от Университета на Уолонгонг Армин Алимардани и доцентът в UNSW Сидни Ема А. Джейн тестваха редица популярни AI детектори за съдържание, като установиха, че нито един от тях не е надежден. В техен анализ, публикуван в Разговорът , Алимардани и Джейн заключиха, че тази AI „надпревара във въоръжаването“ между текстови генератори и детектори ще представлява значително предизвикателство в бъдеще, особено за преподавателите.
Но не само възпитателите и учителите имат причина за безпокойство: всички имат. Тъй като текстът, генериран от AI, става повсеместен, възможността да се прави разлика между това, което е „истинско“ и това, което не е, т.е. всъщност забелязване, когато нещо е написано от AI , ще стане по-трудно. Това ще има огромно въздействие върху почти всички индустрии и сфери на обществото, дори личните взаимоотношения.
Последиците на AI за киберсигурността и поверителността
Фактът, че няма надеждни механизми за определяне дали нещо е създадено от софтуер или човешко същество, има сериозни последици за киберсигурността и поверителността.
Заплашващите актьори вече са използване на ChatGPT за писане на зловреден софтуер , генерирайте фишинг имейли, пишете нежелана поща, създавайте измамни сайтове и др. И въпреки че има начини да се защитим от това, със сигурност е тревожно, че няма софтуер, способен надеждно да разграничи органичното и бот съдържанието.
Фалшивите новини също вече са огромен проблем. С генеративния AI в картината агентите за дезинформация са в състояние да мащабират своите операции по безпрецедентен начин. Междувременно обикновен човек няма как да знае дали нещо, което чете онлайн, е създадено от софтуер или от човешко същество.
Поверителността е съвсем различен въпрос. Вземете например ChatGPT. Беше захрани повече от 300 милиарда думи преди стартирането му. Това съдържание е взето от книги, публикации в блогове и форуми, статии и социални медии. Беше събрано без ничие съгласие и с привидно пълно незачитане на поверителността и защитата на авторските права.
След това има и проблемът с фалшивите положителни резултати. Ако съдържанието е погрешно маркирано като генерирано от AI, не може ли това да доведе до цензура, което така или иначе е огромен проблем? Да не говорим за щетите, обвинени в използване на текст, създаден от AI, могат да нанесат на репутацията ви, както онлайн, така и в реалния живот.
Ако наистина има надпревара във въоръжаването между генеративния AI и детекторите на съдържание, първият печели. И което е по-лошо, изглежда, че няма решение. Всичко, което имаме, имаме полуготови продукти, които дори не работят през половината време или могат да бъдат измамени много лесно.
Как да открием AI съдържание: потенциални решения
Това, че в момента изглежда нямаме реални отговори на този проблем, не означава, че няма да имаме такива в бъдеще. Всъщност вече има няколко сериозни предложения, които биха могли да проработят. Водният знак е един.
Когато става дума за AI и дълбоки езикови модели, водният знак се отнася до вграждане на вид таен код в генериран от AI текст (напр. модел на дума, стил на пунктуация). Такъв воден знак би бил невидим с невъоръжено око и следователно почти невъзможен за премахване, но специализиран софтуер ще може да го открие.
Всъщност през 2022 г. Университет на Мериленд изследователи разработиха нов метод за воден знак за изкуствени невронни мрежи. Водещият изследовател Том Голдщайн каза по това време, че екипът му е успял да 'докаже математически', че техният воден знак не може да бъде премахнат изцяло.
как да създадете exe файл
Засега това, което обикновеният човек може да направи, е да разчита на инстинктите и здравия си разум. Ако има нещо нередно в съдържанието, което четете – ако ви се струва неестествено, повтарящо се, лишено от въображение, банално – то може да е създадено от софтуер. Разбира се, вие също трябва да проверявате всяка информация, която виждате онлайн, да проверявате повторно източника и да стоите далеч от сенчести уебсайтове.
AI революцията е в ход
Някои твърдят, че петата индустриална революция вече е тук, тъй като изкуственият интелект заема централно място в това, което се описва като сближаване на цифровото и физическото. Независимо дали наистина е така или не, всичко, което можем да направим, е да се адаптираме.
Добрата новина е, че индустрията за киберсигурност се приспособява към тази нова реалност и прилага нови отбранителни стратегии с AI и машинно обучение начело.