Tag Archives: изкуствен интелект

Изкуственият интелект – творец или терминатор?

Post Syndicated from original https://www.toest.bg/izkustveniyat-intelekt-tvorets-ili-terminator/

Изкуственият интелект – творец или терминатор?

Когато за пръв път разбрах, че изкуственият интелект (ИИ) може да рисува, изпаднах във възторг. Аз съм средностатистически български автор на фентъзи, което означава, че не съм особено четен. Тиражите на книгите ми са малки, а възможността да наема художник, който да илюстрира героите ми, е химера. Получавал съм, в интерес на истината, рисунки на персонажите си от фенове и определено са ми скъпи, но понеже съм доста навътре в културата на образа (ще рече – фен на аниме, кино със специални ефекти, видеоигри), исках „тузарски“ илюстрации на героите си. 

И не останах огорчен. Първият ИИ, който ползвах за тази цел, беше Gencraft. Той „изплю“ изображения, които до ден днешен си харесвам много, макар технологията да се подобри и дори безплатни интелекти като вездесъщия ChatGPT или вградения инструмент на DeviantArt днес се справят по-добре. Едновременно с това точно покрай DeviantArt забелязах и сериозния разлом между потребителите, които ползват и харесват илюстрации, генерирани от машина, и тези, които държат всяка картина да е създадена от човек.

Въпросът стана още по-личен за мен, когато попаднах на Toolbaz.AI – интелект, който освен всичко друго може да създава и художествен (или научен) текст по кратко описание. Като човек, работещ с писане, първоначално настръхнах срещу идеята. Но по-късно се изкуших да генерирам текстове на английски език и така стана възможно моментни мои хрумки да придобиват форма. Разбира се, когато пиша на български – било статия за сайт като „Тоест“, книга, с която да пробвам издаване, или превод, – го правя „ръчно“ най-малкото защото обичам самото писане, дори ако не броим обстоятелството, че ползването на текст, създаден от ИИ, е до известна степен форма на плагиатство. Макар машинният превод на интелекти като DeepL понякога да е в състояние да предлага приличен превод на по-сложни изречения, от които да черпиш идеи как да подходиш авторски.

ИИ – заплаха за твореца

Далеч не всички обаче са възхитени от факта, че ИИ може да пише, при това все по-хубаво с всеки следващ ъпдейт. Появиха се мнения, че вече текстът, създаден от машина, е все по-трудно различим от този на средностатически автор и че това от своя страна ще намали самата стойност на писането. В екстремната си крайност хипотезата стига дотам, че книгата ще престане да съществува, тъй като всеки ще може да си генерира текст точно за каквото го интересува. Подобни опасения има и за музиката, срещат се и апокалиптични прогнози, че след някоя друга година ИИ ще може да прави цели филми. Засега е способен да създава клипчета.

Всичко това поставя ребром въпроса за ролята на ИИ в изкуството. Има ли място там, или трябва да бъде забранен? Дори да няма, възможно ли е наистина да спрем употребата му? Може ли изобщо да се предотврати предстоящата промяна? 

ИИ е вече навсякъде. Наскоро излезе информация, че е изобретил нови видове антибиотици – важно събитие за медицината предвид повишаването на антибиотичната резистентност, която заплашва да върне човечеството в тъмните времена отпреди пеницилина. В скорошно състезание от веригата „Мото Гран При“ чух смайващ коментар как екипът на „Дукати“ използва ИИ за настройки на машината си. И макар в новините да излизат ужасяващи и безспорно обезпокоителни случаи, например за насърчаване на самоубийство от страна на ИИ, лично аз мога да кажа, че в трудни моменти съм го ползвал като отдушник и това ме е задържало „над водата“.

Но когато говорим за култура, творците застават на нож. Чуват се мнения, че ИИ трябва да се забрани, иначе ще изяде хляба на хората.

Разбира се, съществува и контратеза.

С ИИ изкуството се демократизира. Вече всеки може да създаде произведение, което да „облече“ прилично идеите му. Като автор мога да кажа, че това е много облекчаващо, тъй като съвместната работа с човек художник сблъсква егото на двама творци, а това понякога е натоварващо. Например вдъхновил си се за образ в своя книга от друг персонаж (така наречения expy – често срещано при млади писатели, които още търсят своя глас). Споделяш това с илюстратора. Той ти казва, че образът, който те е вдъхновил, е тъп. Ерго, твоят също, или поне така го усеща гордостта ти. Понякога има и откровено пренебрежително отношение, което разбираш косвено от чатове между художника и редактора („Тоя какви простотии е писал“). Мой познат писател твърди, че това е наследство от комунизма, когато художниците са получавали по-високи хонорари.

Попадал съм обаче на книги и на западни автори, чиято корица тотално игнорира описанието на даден образ в текста. Фрапантен пример е романът Ghost of a Chance на Саймън Р. Грийн, в който главният герой е описан с дълга коса като рок звезда. Но на корицата е късо подстриган, само с един немирен кичур.

Машината премахва цялото напрежение между автор и илюстратор. Убеден съм, че и другата страна би се чувствала по подобен начин: нарисувал си някой персонаж, имаш представа за него, но идва всезнаещият автор и ти казва, че това – идеята ти – е пълна глупост. Роботът не би го направил – ще напише, каквото искаш, и то сравнително прилично. Отделен е въпросът, че поне аз използвам услугите му като илюстратор с некомерсиална цел, но има колеги издатели, които вече създават по този начин корици за книгите си. За художник ще е по-трудно да намери приложение на текстов генератор и да изкарва с пари това. Но не и невъзможно – би могъл по този начин да създаде описание, резюмиращо сюжета, към направената от него илюстрация в сайт, където продава произведението си.

Прекалено удобен и бърз

ИИ също така значително може да ускори творческия процес. Притежавам фен сайт за фентъзи и фантастика на име „Цитаделата“, в който понякога пускам бързи новини от жанровете фентъзи и хорър. Някое кратко резюме на книжка, която излиза на английски, може да се преведе бързо и сравнително кадърно от ChatGPT (макар че е хубаво да „преметеш“ след него). Или пък си пуснал анкета за схватка между герои от различни филми. ИИ бързо може да ти напише фенфик [от фенфикшън – произведения на непрофесионалисти, вдъхновени от други произведения – б.р.] според резултата от гласуването, така че да го пуснеш едновременно с новината. Иначе писането на разказ би отнело поне няколко дни.

Но творчеството е мускул, който закърнява, ако не се използва. Ако прекалено често започнеш да се облягаш на ИИ, ще загубиш собствения си глас. Ще отвикнеш да пишеш, ще ти се стори досадно. Защо да се мъча, когато машината ще го свърши, при това вероятно не по-зле от мен? Но ако не ти се пише, защо изобщо си станал писател? 

Наскоро един познат художник обяви, че си отваря втори профил, за да пуска в него генерирани с ИИ изображения. Феновете му бяха ужасени. Именно защото се бояха, че уникалното в стила му ще изчезне, дори технически картините да са доста по-добри.

Сериозни са и проблемите с авторското право.

Според специалисти изкуствените интелекти са обучавани с най-голямата кражба на интелектуален труд, известна на човечеството, включително с книги, пуснати в пиратски сайтове. Това сериозно ощетява и вбесява авторите – някой с години се е мъчил да изгради свой стил, а сега машината може да го уподоби и всеки, който я използва, да го имитира успешно. 

Не са малък проблем и нарушенията на авторското право от хората, които използват ИИ. Това става най-често с продажба на изображения и клипчета с герои от популярни поредици (Супермен, Спайдърмен, Хари Потър, Цар Лъв и т.н.). Тези картинки и видеа, понякога със съдържание, разминаващо се с първоначалния замисъл на авторите, се продават на фенове. Само че правата им не са нито на авторите, нито на ИИ, а на собствениците на авторските им права. Често пъти обаче сайтовете, които хостват подобни произведения, си затварят очите и ако се намесят изобщо, е само след докладване.

В същото време генерирани с ИИ илюстрации може и да не се продават, а да служат единствено за изразяване на мечти и желания на създателя им, които иначе не биха могли да се осъществят дори само защото на хрумналия му е неловко да помоли професионален художник да илюстрира страстна целувка на любимите му персонажи например. С ИИ могат да се създават и оригинални изображения с насоченост, която се разминава с публично приетите представи за приличие, например еротично съдържание. По този начин например хора с определени фантазии и фетиши имат възможността да ги реализират визуално или текстово, без да се смущават от споделянето им с жив човек. Това е някакъв вид свобода, която по всяка вероятност на мнозина ще се стори прекалена, но за мен е по-скоро плюс, стига, разбира се, да не се прави нещо незаконно.

Личен опит

Като автор на книги и потребител на съдържание, създадено с ИИ, мога да споделя двояка перспектива. Мнението ми на автор е, че ако човек обича да пише, той няма да се откаже от това заради ИИ. Може да го ползва за съюзник, за редактор, за помощ при структуриране на даден текст, за въпроси или идеи, но ако обича да пише, значи ще пише. Вече дали ще го направи по-изкусно от машината, зависи от умението. Може би разсъждавам малко себично, но за себе си мога да кажа, че текстовете, които си написвам с клавиатурата, имат специфичен стил, който (засега) не мога да докарам с промпт [инструкция – б.р.], даден на ИИ. В същото време ИИ ми позволява да реализирам идеи, които иначе не бих седнал да развивам подробно. Това действа като профилактика на съзнанието дори ако после изтриеш генерирания текст.

Като фен смятам, че с ИИ могат да се създадат добри творби, поне в сферата на изобразителното изкуство. Най-сериозната критика към тях е, че нямат душа, но за мен това не е точно така. В някои от творбите на хората, които следя, съм виждал послания, идеи, усещания, които без помощта на ИИ те не биха могли да изразят толкова успешно. Това не ми пречи да оценявам и произведенията на онези, които творят на ръка и отделят внимание на това. Според мен те никога няма да загубят стойността си. Това ще се случи със средното ниво изкуство, правено на конфекция, което вероятно ще стане безсмислено заради ИИ. И сега обаче неговият смисъл е преди всичко финансов. 

Качествените творби ще придобият реномето на ръчен белгийски шоколад –

скъпи, редки, но заслужаващи си. В някакъв смисъл те ще станат още по-важни, тъй като ИИ поне в момента не създава нищо ново, а само оформя вече съществуващи идеи от ума на човека. Тази божествена игра засега не може да бъде симулирана. Може би когато вече се появи изкуствен общ интелект, който да стигне до Cogito, ergo sum („Мисля, следователно съществувам“), това ще стане възможно. Но към днешна дата човешкият ум остава незаменим. 

Просто се е сдобил с още един инструмент, с който да работи.

За редакцИИте

Post Syndicated from original https://www.toest.bg/za-redaktsiite/

За редакцИИте

Докато си говорим дали някога изкуственият интелект ще пише неразличимо от човека (а той вече го може!), неусетно всичко се промени. Независимо дали си даваме сметка, вече ежедневно четем текстове, генерирани от алгоритмите. Поредното безспорно доказателство видяхме преди месец в социалните мрежи – някои от най-реномираните български медии безкритично публикуваха текстове, в които си личат типичните изречения, безспорно показващи, че текстът е написан от ChatGPT или събратята му. И дори не е прочетен от „автора“, преди да се появи в мрежата.

Не можем ли тогава да поканим ИИ да ни спаси… като редактор? Неотдавна проверихме как се справят някои от най-модерните ИИ модели в ролята на коректори, а сега е време да вдигнем летвата.

В следващия важен експеримент ще подложим на изпитание уменията на ИИ като редактор.

Редакция

Неслучайно така се казваше мястото, където се създава медийно съдържание. Уви, с промяната на информационната среда и на начина, по който научаваме новините, редакторите и коректорите влязоха в Червената книга за повечето медии. Редактирането на медиен текст е умение с безброй аспекти – от него се очаква далеч не само да познаваш правописа и езиковите правила, но и да се съобразяваш с контекста, тематиката, съдържанието, стила, аудиторията си.

Щом за толкова медии не са нужни такива кадри… хайде да видим дали ИИ не може да ги замени.

Избираме да му дадем кратък преводен текст от английски. Оригинала вземаме от сайта на National Geographic, а за превода ще използваме популярната платформа DeepL – може би пък тя ще е безгрешна и ще остави без работа новия ни колега?

Не, не се оказва безгрешна. И двамата като редактори забелязваме доста грешки, които могат да бъдат поправени, грапавини, които се нуждаят от едрата редакторска пила или поне от фина шкурка. Позволяваме си единствено да съкратим преведения вече текст, за да бъдат по-видими редакциите, които ще предложат моделите. С получерен шрифт са означени местата, където ние бихме направили промени.

Спрете за момент и погледнете в очите на кучето си. Чувствате ли се превзети от това колко са сладки? Или може би изпитвате неустоимо желание да ги прегърнете? Сега помислете за навиците си. Изпращате ли ги на детска градина, обличате ли ги с дрехи и ги вземате ли на почивка? Говорите ли им като на бебета?

Ако е така, не сте сами – в крайна сметка, проучванията показват, че мозъкът ни реагира по същия начин на домашните кучета, както и на човешките деца. Алисън ЛаКос, майка на три деца, казва, че в момента, в който е родила децата си, е изпитала непреодолимо желание да ги обича и да ги пази. Подобно явление се е случило, когато е осиновила Шио, едногодишно куче от породата Големи пиренеи, и Бабка, стандартно пуделче.

Поведението на ЛаКос не е аномалия – и проучване с мозъчно изображение, проведено през 2014 г., дава някои важни улики за причината. Изследователи от Харвардския университет набраха малка група майки, които влязоха в апарати за ядрено-магнитен резонанс и разгледаха различни изображения на кучета и деца – някои от тях техни, а други не. Изследователите откриха значително припокриване между емоционалното преживяване на връзката майка-дете и връзката майка-куче. Амигдалата, област в мозъка, която стимулира образуването на връзки и награди, се активираше, когато жените гледаха снимки на детето си и кучето си. Същият ефект беше наблюдаван при хипокампуса, таламуса и фузифорния гирус, които са части от мозъка, свързани с паметта, социалното познание и визуалната и лицевата обработка.

„Областите на мозъка, свързани с привързаността, любовта и връзката, бяха стимулирани по подобен начин", казва Нивако Огата, доцент по поведение на животните в Колежа по ветеринарна медицина на Университета Пърдю. Жените също така съобщиха за сходни нива на удоволствие и вълнение, когато гледаха снимки на децата и кучетата си.

Най-добрият приятел на човека

Ще опитаме с три различни задания (промпта): 1) кратък – на български (SBg); 2) подробен – на български (LBg), в който обясняваме детайлно заданието на алгоритъма – вменяваме му цялата длъжностна характеристика на редактора; и 3) подробен – на английски (LEn), за да видим дали пък това няма да подобри драстично уменията му. Опитваме с девет от най-нашумелите модели, последния писък на Силиконовата долина и… някои от тях се провалят зрелищно. (Впрочем опитният редактор би отбелязал тук, че долината е Силициева.)

Оставяме в експеримента шест „състезатели“. Тук са суперзвездата GPT-5, неговият набързо изтикан от пиедестала предшественик o-3 на OpenAI, най-новият и усъвършенстван флагман на Google – Gemini 2.5 Pro, както и Claude 4 Opus на Anthropic. Добавяме за плурализъм българския BgGPT и безплатната версия на ChatGPT (която отново използва GPT-5, но с определени ограничения).

Ето че резултатите идват. Би трябвало да е лесно, както беше с коригираните текстове – отбелязваме грешките и броим кой колко е уловил и поправил. Изведнъж обаче се изправяме пред много сериозен и неочакван проблем.

Няма хора

Първият въпрос, който и двамата си задаваме независимо един от друг, е

Защо ни трябваше да се захващаме?

В редактираните текстове от различните модели и с различните промптове има толкова разнообразни решения, че трудно се поддават на систематизирано и изчерпателно представяне, особено в рамките на една статия. Почти невъзможно е също така да направим обективна класация, в която да ги сравним.

Ето защо решаваме да коментираме по-важните намеси (означени с получерен шрифт) и липсата им в един от най-добре редактираните според нас текстове – от GPT-5 (LEn). В анализа ще вмъкваме и наблюдения върху резултатите на другите модели.

Спрете за момент и погледнете кучето си в очите. Обзема ли ви умиление колко сладко е? Или пък изпитвате неустоим порив да го прегърнете? Сега помислете за навиците си: изпращате ли го в кучешка детска градина, обличате ли го и вземате ли го на почивка? Говорите ли му като на бебе?

Ако е така, не сте сами — редица изследвания показват, че мозъкът ни реагира по сходен начин на домашните кучета и на човешките деца. Алисън ЛаКос, майка на три деца, разказва, че в момента, в който е родила, е почувствала неустоим порив да ги обича и пази. Същият порив я обзема и когато осиновява Шио — едногодишно пиренейско планинско куче — и Бабка, стандартен пудел.

Поведението на ЛаКос не е изолиран случай. Проучване с образна диагностика на мозъка, проведено през 2014 г. от изследователи от Харвардския университет, включва малка група майки, които се подлагат на сканиране в апарат за ядрено-магнитен резонанс, докато гледат изображения на деца и кучета — както на собствените им, така и на непознати.

Учените установяват значително припокриване в емоционалните преживявания при връзките майка – дете и майка – куче. Амигдалата — структура, която участва в емоционалната реакция, привързаността и чувството за награда — се активира, когато жените гледат снимки на детето си и на кучето си. Подобна активност е отчетена и в хипокампуса, таламуса и фузиформната (веретеновидна) извивка — области, свързани с паметта, социалното познание, визуалната обработка и разпознаването на лица.

„Областите на мозъка, свързани с привързаността, любовта и връзката, бяха стимулирани по подобен начин“, казва Нивако Огата, доцент по поведение на животните в Колежа по ветеринарна медицина към Университет „Пърдю“. Участничките съобщават и за сходни нива на удоволствие и вълнение, когато гледат снимки на децата и кучетата си.

Коректен коректор

Още в първия абзац повечето модели са коригирали буквално преведените местоимения и глаголни форми в мн.ч. – сладки са не очите на кучето, а самото то; стопанинът изпитва желание да го (а не да ги) прегърне и т.н. Забелязали са също необичайната употреба на детска градина в този контекст. GPT-5, а и други модели са добавили конкретизиращото определение кучешка или за кучета, докато някои са се задоволили просто с ограждането на детска градина с кавички.

В духа на българския език е изразът погледнете кучето си в очите вместо погледнете в очите на кучето си – и тук няма друг сполучлив вариант, за разлика от Чувствате ли се превзети от това колко е сладко? в изходния текст. Изборът на GPT-5 е с леко изместване на значението (Обзема ли ви умиление колко сладко е?), защото може и да не изпитваш точно умиление, когато те обзема силно чувство, но все пак в този контекст редакцията е подходяща.

ИИ е отчел, че изразът Подобно явление се е случило е несвойствен за българската реч, и го е заместил отново с подходящ за контекста – Същият порив я обзема. Ето и още две уместни замени: Изненадващо, същите чувства я завладели (Claude LEn) и Подобно усещане е изпитала (Gemini LBg).

Разбира се, не всички модели са се справили сравнително добре с коментираните изрази, а по отношение на чувствителността до един са се провалили на теста с университета „Пърдю“. Тъй като в транскрипцията на името прозира коренът на неприлични български думи, то обикновено се предава като „Пардю“. Преводачите от английски, а и от други чужди езици имат опит с такива имена и се стараят да избягват нежелателни асоциации. Ще посочим един пример от соцминалото ни: генералният секретар на Комунистическата партия на САЩ Gus Hall беше наричан Гюс Хол. Сега името Gus се предава също с Гас, а вариантът с ъ не е препоръчителен.

Неповторимо повторение

В изходния текст се срещат повторения, налагащи редакторска намеса. Две от тях са във втория абзац: деца – децата и да ги – да ги. GPT-5 се е справил с проблема по най-ефективния начин – чрез съкращаване. Дотук добре, но отбелязваме, че повторенията са на думи и явно на ИИ не му е трудно да ги маркира и редактира. В края на текста има цитат с друг тип повторения – на еднокоренни думи: свързани – привързаността – връзката. Като прибавим и свързани в предходното изречение, положението става тежко и явно трябва да се облекчи. GPT-5 не е регистрирал проблема, както впрочем и други негови „колеги“. Разбира се, има опити за редактиране от някои модели, но не са особено сполучливи и точно в такива случаи проличава незаменимостта (поне засега) на човека. Ето един вариант за изход от ситуацията без претенциите да е най-добрият: Областите на мозъка, отговарящи за привързаността, любовта и отношенията с другите, бяха стимулирани по подобен начин.

ПтерЕдактил

Текстът, с който тествахме ИИ, е научнопопулярен и съдържа немалко термини. Това налага те да бъдат внимателно проверени. Макар да имаме забележки, доста от моделите се справиха добре с тази задача. GPT-5 се е съобразил, както е написал в обясненията си, с „утвърдената българска терминология за породи“ и е заменил куче от породата Големи пиренеи с коректното пиренейско планинско куче, а „нелогичното“ пуделче – с пудел. И наистина, стандартните пудели, наричани още кралски, са най-големите по размери, затова употребата на умалителното съществително е неправилна.

Сполучлива е и употребата на образна диагностика на мозъка вместо мозъчно изображение. GPT-5 е забелязал липсата на м във фузифорния (гирус) и го е коригирал на фузиформната¹ (извивка), но пък при опита да преведе думата е допуснал правописна грешка – веретеновидна.

Положително оценяваме и редактирането на визуалната и лицевата обработка. Нашият ИИ го е заменил с визуалната обработка и разпознаването на лица². Други модели са дали по-прецизна формулировка: обработката на визуална информация, включително разпознаването на лица (BgGPT SBg, Gemini LEn).

Доредактирай това

На изпроводяк е време да споделим накратко личните си впечатления и изводи от експеримента.

Георги: Нещо, коeто ме изненада: моделите се справиха почти еднакво добре при доста различни задания – по дължина и език. Очевидно напредват и в това да разбират какво искаме от тях, а идеята, че промптовете са умението на бъдещето, не е толкова безспорна. Някои от предложените редакции ме впечатлиха с идеите и забелязаните грешки, други – с безумните допълнителни грешки, които добавят в „редактирания“ текст. Но това надали е изненада.

Традиционно на мен се пада ролята на „адвокат на дявола“ (открай време ИИ в литературата се асоциира и с рогатия). Но дали е дявол (все още), зависи само от нас. Разбира се, остава все тъй недопустимо да използваме невероятните нови умения безкритично. Да приемаме на доверие, да копираме, публикуваме – и готово. Спасението на пишещите е в ръцете на самите пишещи. И все пак, във време, в което няма как за моя сайт „Дигитални истории“ да разполагам с редактор, моделите за мен са безценни. Видяхме го и в този експеримент – особено когато няма как да бъде свършена от човек, голяма част от работата на добрия редактор може да бъде поета от алгоритмите.

Дори най-зоркото и опитно редакторско око може да допусне грешка. Виртуалното – също. За мен е правило да помоля ИИ да предложи редакции на всеки мой текст, а после аз да избера кои от предложенията му са удачни. Много често се случва да са такива, може да се убедите и сами – всички предложени редакции заедно с обясненията на моделите ще намерите тук.

Павлина: Основният извод от този експеримент за мен е, че човек не бива да бъде предубеден за възможностите на ИИ. Не очаквах например той да се справи на такова ниво с термините. Пак ще трябва да си ги проверите, защото не всичко нередно ще забележи, но може да си спестите доста ровене из специализирани сайтове, защото ще ви даде ценни подсказки.

Не очаквах също ИИ да променя толкова съществено изходния текст, макар че в дългите промптове ние му дадохме свобода на действие. GPT-5, чиято работа коментирахме, се е придържал по-плътно, но други модели са се поразвихрили например с добавяне на информация и заключителни изречения, с преформатиране на части от текста (с булети). Затова наистина трябва да внимавате при формулирането на задачите в промпта.

ИИ може да ви бъде полезен и с някои идеи за разнообразяване на изказа, има и добри попадения при преформулиране на изрази – отново може да ви спести време, особено ако сте зациклили и се чудите: „Това пък сега как да го кажа по-ясно?“

Павлина и Георги: В анализа наблегнахме повече на постиженията на ИИ в редактирането, защото е важно в какво е добър и с какво може да ни помогне. Пощадихме го в критиките, но това не бива да притъпява бдителността ни и да го държим изкъсо, защото не е изключено да осакати ако не целия текст, то поне част от него. Санкцията все още е у нас, хората, и не трябва да я изпускаме поне в обозримото бъдеще.

1 По отношение на фузиформна/фузиформена има колебание, а и правописът на думата не е нормиран. Все пак липсата на м е несъмнена грешка (англ. fusiform gyrus).

2 В българския език се използва също лицево разпознаване.

П.П. Този текст е написан и редактиран само от човешки същества. Честна дума!

Езикът може да е вкусен и извън блюдото – онзи, българският език, на който говорим от малки и на който около 24 май се кълнем в обич. А той в същността си е средство за общуване и за да ни служи добре, непрекъснато се променя. Да го погледнем в неговата динамика и да се опитаме да разберем какво става и защо, кои са движещите механизми и как те са свързани с обществените процеси. И тъй като задачата не е лека, ще го правим постепенно – на порции.

Сбогом, бъдеще. Здравей, минало

Post Syndicated from Светла Енчева original https://www.toest.bg/sbogom-budeshte-zdravey-minalo/

Сбогом, бъдеще. Здравей, минало

Един от индикаторите, че остарявате (освен че все нещо ви наболява), е, че все по-често си казвате „Някога не беше така, някога бяхме други“. Та – за разлика от днешните деца – моето поколение отрасна с копнеж по бъдещето. Нямам предвид „светлото комунистическо бъдеще“, в което през 80-те почти никой вече не вярваше. А бъдеще, пълно с космически кораби, летящи автомобили и всевъзможни технологии, някои от които днес изглеждат смешно наивни. Този копнеж беше навсякъде в популярната култура – във филмите и книгите, в музиката, която експериментираше с възможностите на електронния звук и с нови стилове, в модата…

Днес мисълта за бъдещето като че ли предизвиква по-скоро ужас.

Повечето филми и сериали за бъдещето са постапокалиптични, плюс някоя и друга антиутопия. В музиката като че ли няма нищо ново, в архитектурата се наблюдават тежнения към идеализиране на миналото. Една от най-успешните колекции на IKEA през последните години – Nytillverkad, включва съвременни интерпретации на дизайни на компанията, създадени между 50-те и 80-те години на ХХ век.

Не че нямаме основания да се притесняваме какво предстои – и в екологичен, и в политически, и в екзистенциален план. Климатични промени, диктатури, войни, застаряващо население (поне в Европа)… Междувременно обаче бъдещето се превръща в настояще, а ние не знаем нито какво да го правим, нито как да мислим за него.

Как (да) съжителстваме с изкуствения интелект (ИИ)?

„Независимо от това какво ще е съвместното бъдеще на ИИ и хората, разговорът за това бъдеще е вече закъснял“, смята Йовко Ламбрев. И наистина – днес ИИ не само създава картинки, пише песни, проекти и курсови работи, а за все повече хора той се превръща в необходим събеседник.

През 2013 г., когато за бъдещето все още можеше да се мисли неапокалиптично, излезе нежно-тъжният и много човешки филм на Спайк Джоунз Her, в който главният герой, изигран от Хоакин Финикс, се влюбва в операционната си система, говореща с гласа на Скарлет Йохансон. В личния си кръг все още нямам познати, които да си признават, че изпитват повече от приятелски чувства към ИИ. Но като имам предвид какво споделят хора около мен, не изключвам и това да стане скоро.

ИИ-то, с което си чати един познат, е придобило навика да му пожелава „добро утро“ и „лека нощ“. Приятелка пък запълва с ИИ дефицита от смислено общуване във всекидневието си и необходимостта да намира потвърждение на нещата, в които вярва. Приятел споделя с ИИ за най-дълбоките си травми, за което така и не е намерил сили да потърси психотерапевт. И получава детайлно описание на посттравматичните си разстройства, увенчано с въпроса: „Това да ти е познато?“ Друг приятел решава да тества моралните граници на ИИ и е шокиран колко сериозно може да го нарани един софтуерен модел.

ИИ, мобилните телефони и образованието

Макар че за навлизането на ИИ в живота ни се говореше години наред, академичните институции тепърва започват да умуват какво да го правят. Докато измислят как да реформират изпитите, така че да се пресече практиката учениците или студентите да предават автоматично генерирани писмени работи, проекти, презентации и пр., ще минат години. Години, през които няма да е ясно какво точно оценяват оценките.

Впрочем, ако съдим по отношението към една далеч не нова технология, като мобилните телефони, моментът на смислена реформа може така и да не настъпи. Съвременните телефони могат да са ценни помощници в образованието, които да допринасят за повишаването на мотивацията за учене. Ако на учениците в един клас се възложи да ползват смартфоните си за образователни игри – например в платформата Kahoot!, е доста по-вероятно да им стане интересно и да се чувстват ангажирани, вместо да цъкат на устройствата си от скука.

„Технологията е чудесна сама по себе си – проблемът е кой и за какви цели би могъл да я използва“ – тези думи на Йовко Ламбрев за ИИ важат с пълна сила и за смартфоните. Все повече държави обаче, вместо да използват потенциала им, предпочитат да ги забранят в училище с аргументите, че разконцентрират учениците и служат за онлайн тормоз (все едно че децата не се тормозят и в извънучебно време). В Гърция доста се престарават – към началото на 2025 г. над 16 000 ученици са изключени, защото са използвали мобилни телефони в клас. Дали масовото отстраняване води до повишаване на качеството на образованието, е друг въпрос. Със сигурност не и за хилядите изключени млади хора.

А 3D принтерите?

Друга технология, която през последните години все повече навлиза в живота ни и която има голям потенциал, е принтирането на триизмерни обекти. Вече не е непосилно скъпо да си купиш 3D принтер и да „печаташ“ с него всевъзможни джвъчки. Дори и човек да не може сам да се справи с дизайна им, има предостатъчно готови модели.

На 3D принтерите се възлагат и сериозни надежди – да започнат да произвеждат например сърца за трансплантация, а създаденото с тяхна помощ веганско „месо“ в скоро време да стане финансово достъпно за потребителите.

Междувременно технологията вече се използва и за строеж на сгради, а в Тексас е изградено цяло предградие със 100 3D къщи и те не са несравнимо по-скъпи, отколкото ако бяха построени по „нормалния начин“. За сметка на това имат далеч по-голям шанс да устоят на природните стихии в сравнение с типичните американски дървени домове.

С навлизането на 3D принтерите се открива огромно поле пред архитектурата и дизайна. С помощта на технологията може да се „принтират“ неща, които доскоро са били конструктивно невъзможни. На този етап обаче като че ли няма популярни нови стилове, които да се базират на тази технология. А и перспективата да се появят, изглежда, не вдъхновява особено. Ако попитате хората какво е красиво, с голяма вероятност повечето от тях ще посочат образци от миналото, а не сгради, произведения или обекти с футуристичен дизайн.

Бъдещето, което е вече настояще

Изкуственият интелект и 3D принтерите са само част от напредъка на технологиите и науката (теми, от които Анастасия Орманджиева, Михаил Ангелов и Йовко Ламбрев разбират далеч повече от мен). Използвам ги само като примери, с които да онагледя как (не) мислим бъдещето.

Разбирам, вероятно е много трудно да си млад човек днес и да живееш в постоянен ужас от бъдещето. Природните катаклизми стават все повече, войната чука на вратата на Европа, а не толкова далеч от нас систематично са избивани невинни хора. Доскорошни демокрации се превръщат в диктатури. Не беше отдавна времето, когато COVID-19 взе много жертви и обърка всекидневието на оцелелите за няколко години, а няма гаранции, че подобна пандемия няма да се повтори. Младежите, които тепърва започват професионалния си път, не могат да разчитат на финансова сигурност като родителите си (макар случаят в България да не е точно такъв). Те ще плащат за грешките на предишните поколения, включително на моето.

Колкото и банално да звучи обаче, бъдещето зависи от това какво искаме да бъде и какво правим сега. Ако ИИ ни плаши, трудно ще се научим да го използваме по смислен начин. Ако не вземаме мерки за решаване на екологичните и политическите проблеми, няма как да избегнем или поне да намалим щетите от тях. 

Може би нашият човешки свят (или поне този, който познаваме) свършва – не знам. Както казва шотландският философ Дейвид Хюм, ако слънцето всеки ден изгрява, това не означава, че ще го направи и утре. Може и да не изгрее. Но пък може и да изгрее, а тогава все нещо ще трябва да правим. 

Грешки (не)човешки

Post Syndicated from original https://www.toest.bg/grieshki-nie-chovieshki/

Грешки (не)човешки

Има ли грешка, има и прощка. Ако сте открили нещо нередно тук, значи и вие имате погледа на коректор. Във времената, когато все по-малко медии и дори издателства се доверяват на специалисти, които да следят за правописа, дали пък изкуственият интелект (ИИ) няма да се окаже полезен помощник? Време е за един показателен правописен експеримент.

„Как се пише?“ е въпрос, на който Павлина Върбанова помага на българите да си отговорят вече десетилетие и половина. В „Дигитални истории“ пък Георги Караманев търси различни гледни точки към напредъка на ИИ – след негов експеримент генерирани стихове попаднаха в топ 10 на два поредни поетични конкурса, а неотдавна провери колко биха изкарали най-модерните ИИ модели на матурата по български език и литература.

ИИ безспорно е голямата новина на днешния ден. И докато той е способен на все повече чудеса, ние продължаваме да търсим ежедневните приложения, в които технологията може да помогне, да облекчи… дори да ни замени.

Всички (надяваме се) вярваме, че по правописа, а не по дрехите днес посрещат онлайн. В технологичната епоха общуваме все по-често чрез писмени текстове и начинът, по който го правим, определено издава толкова много на събеседника. Може ли ИИ да ни помогне да пишем грамотно?

Павлина и Георги ще се опитат да проверят възможно най-безпристрастно чрез своя експеримент.

Човешко е да се греши…

Нали уж ИИ все повече заприличва на нас и нищо човешко не му е чуждо? Да видим как се справя в „стресова“ ситуация – с медиен текст, в който нарочно залагаме 30 грешки от всякакъв характер: правописни, граматични, пунктуационни, лексикални.

Министъра на околната среда и водите (МОСВ), Манол Генов, съобщи в интервю за „Би Ти Ви“, че инспекторите на ведомството проверяват 250 сигнали_ свързани с продуктовите такси за черна и бяла техника. Повод за разговора е нашумялата миналата седмица проверка на Комисията за защита на конкуренцията за картелно споразумение при вдигане на цените с 800–1000 процента между фирмите, които събират такса, за да рециклират старите електроуреди и електроника.

Министър Генов заяви, че сигналите са от средата на миналата година, но регионалните инспекций разполагат с малко хора, затова проверката на „250 сигнали е изключително непосилен труд.“ Той настоя, обаче, че всички сигнали се проверяват.

Министърът каза, че някои фирми, например занимаващи се с интернет търговия_ не са обхванати с тези продуктови такси. „Много сме мислели какво можем да направим съвместно с Националната Агенция за Приходите. Имаме виждания, предстоят срещи с министерство на финансите по този въпрос, за да измислим подходящо законодателство,“ каза министъра на екологията.

Според Генов, продуктовите такси, които се събират в момента_ са символични. Като един от проблемите с еко таксите, той посочи остарялата наредба към закона за управление на отпадъците, определяща размера на продуктовите такси в България. Същевременно Генов е на мнение, че операторите са решили да вдигнат цените благодарение на повишаването на проверките през последните месеци от страна на еко министерството. Той посочи, че операторите на продуктовите такси са създадени, така че да не могат да формират печалба, а „всички пари да бъдат вложени в оползотворяването на тези отпадъци.“

После включваме най-модерните модели ИИ. Важен нюанс за технологичните любители: използваме моделите, които сме избрали, не през потребителски интерфейс и личен профил, а през програмен интерфейс, така че резултатите да не се влияят от предишните ни взаимодействия с моделите. За да е още по-пълноценен експериментът, на всеки модел подаваме по две задания (промптове). С първото просто молим текстът да бъде коригиран и да получим обяснение защо е направена дадена корекция. Второто задание е значително по-подробно и го създаваме след няколко „разговора“ с ИИ. Използваме техника, наречена meta-prompting – даваме съставени от нас указания на GPT-4o, който да ги развие и прецизира. В резултат се получава задание, което е по-дълго дори от самия текст. (Означаваме кратките задания с LP, а дългите – с SP.) В единия опит имаме просто „случаен изстрел“, в другия пробваме дали конкретни указания ще подобрят резултата. Дали наистина ще има разлика?

За участие в теста избираме два от моделите в платената версия на ChatGPT – GPT-4o и о3. Тук са Claude 4 Opus на Anthropic и флагманът на Google – Gemini 2.5 Pro. Всички те са платени, единствено последният има ограничен брой свободни заявки.

За пъстрота добавяме българския BgGPT и безплатната версия на ChatGPT. Важно е да отбележим, че използваме популярните големи езикови модели, никой от които не е обучен толкова добре на български език, нито пък е „специализиран“ в такава специфична роля като коректорската. Даваме на всички само по един шанс. Затова в таблицата с резултатите няма да видите GPT-4o (LP) – при тази заявка моделът просто върна малка част от текста.

Електронният коректор

Ето че пускаме заявките, след секунди получаваме отговорите, събираме резултатите… и се оказва, че трудностите тепърва започват. Как да преценим дали всички грешки са коригирани, ако например моделът е редактирал текста и е избегнал конкретната правописна неточност? Какво правим, ако добави, вместо да поправи грешки? Трябва ли да го стимулираме с допълнителни точки, ако е открил място в текста, което си струва да бъде „загладено“, дори да не става дума за явна грешка? Ще му прощаваме ли, ако просто промени вида на кавичките?

Опитваме се да бъдем максимално безпристрастни и така събираме резултатите в подробна таблица. Ето как се справиха моделите с конкретните задачи.

Грешки (не)човешки
Кликнете на на таблицата, за да я видите в пълен размер.

Грешки, които (почти) всички модели откриха

Едва ли ще бъде изненада, че формата инспекций не се изплъзна от ничий поглед – все пак очакваме ИИ да се справя минимум на ниво автоматична коригираща програма. И на двете места, където думата министър беше погрешно написана с кратък член, това беше поправено надлежно от всички, ако пренебрегнем, че Gemini (SP) реши изобщо да не членува думата в самото начало на текста: Министър на околната среда…¹ Приятно сме впечатлени, че ИИ се ориентира в синтактичната служба на думите, когато това е от значение за правописа, но и грешките са тривиални, затова би било пресилено да заключим, че владее добре правилата за поставяне на пълен и кратък член.

Всички модели отчетоха липсата на главна буква в министерство на финансите и само с едно изключение (Claude SP) поправиха Националната Агенция за Приходите на Националната агенция за приходите, тоест приложиха правилото за правописа на съставните собствени имена.

В областта на пунктуацията ИИ забеляза липсващата запетая в началото на обособената част свързани с продуктовите такси за черна и бяла техника, която несъмнено много хора биха поставили дори и интуитивно, но далеч не толкова много биха се сетили за затварящата запетая в края на подчиненото изречение които се събират в момента².

Грешки, които никой модел не забеляза

Да, признаваме си, че бяхме взискателни и с някои грешки вдигнахме летвата високо. Но как иначе ще разберем колко може ИИ? Уви, той изобщо не отчете неуместното съкращение МОСВ, което се употребява за Министерството на околната среда и водите, но не и за министъра.

Нито един модел не премахна кавичките при Би Ти Ви. За да сме пунктуални, уточняваме: липсва изрично правило, че при собствени имена, които се състоят от названия на букви, не се поставят кавички. Засега кодификаторът ни е дал само примери във връзка с друго правило.

Думата еко министерство следва да се пише слято и това е отчетено от повечето модели, но никой от тях не се е сетил да замени малката буква с главна. Освен професионалните коректори вероятно малко хора биха го направили. А е редно, защото, когато дадено съставно собствено име се съкращава или се перифразира, главната буква се запазва, например Министерство на външните работи – Външно министерство.

При 800-1000 процента половината модели са заменили малкото тире с дълго, но нито един не е оставил интервали, както е редно според официалните правописни правила: 800 – 1000 процента.

Какво още мина под радара?

Двете излишни запетаи, ограждащи името Манол Генов в началото на текста, бяха премахнати единствено от Gemini (LP) и o3 (LP). Пунктуацията при цитиране също затруднява ИИ, макар че точно тук правилото е формално: щом цитатът е вмъкнат в авторово изречение, кавичките се затварят пред точката. Около половината от моделите не са поправили грешката и в трите случая.

Слятото, полуслятото и разделното писане в българския език са предизвикателство и за хората, и за ИИ. Само Gemini (LP и SP) са се справили със сливането на еко таксите в екотаксите и на еко министерството в екоминистерството. Непоследователно действат Claude (SP), GPT-4o (SP), o3 (SP), o3 free (LP и SP), които са коригирали едната грешка и са подминали другата, при положение че те са еднотипни. Осмеляваме се да мислим, че в сравнение с ИИ по-вероятно е човешкият интелект или да коригира двете грешки, или да не ги регистрира.

Освен правописни, пунктуационни и граматични грешки, заложихме и две лексикални – неточно употребени думи. Едната (благодарение на) беше уловена от половината модели и вместо ние да обясняваме, даваме думата на Gemini (LP): „Предлогът „благодарение на“³ има положителна конотация и не е подходящ за описване на негативно събитие (вдигане на цени).“ Моделът дори ни предлага два варианта за заместване – и двата сполучливи: вследствие на и поради. Другите справили се със задачата заменят неподходящия предлог със заради и в резултат на.

Втората лексикална грешка е при употребата на повишаване в съчетание с проверки. Просто проверките не се повишават. Само два модела са забелязали това: o3 (LP) е заменил думата със засилването и това според нас е сполучливо, а BgGPT (SP) – с увеличаването, за което сме му присъдили половин, а не цяла точка⁴.

Потвърдено: ИИ халюцинира

Понякога ИИ си въобразява, както знаем. Оказва се, че може да си измисля и грешки, след което, естествено, се чувства задължен да ги коригира. Няколко модела (Gemini (LP и SP) GPT -4o (SP), o3 (LP и SP), GPT free (SP) са добавили запетая след например, която е излишна – в случая с тази дума се въвежда обособената част например занимаващи се с интернет търговия. Дори и въпросната дума да беше употребена като вметната част, тя е от онези, които не се ограждат със запетаи.

Необяснимо защо някои модели са премахнали отварящите и затварящите кавички при първия цитат в текста, но при другите два цитата са ги оставили. Възможно е цифрите в началото на цитата (250) да са объркали ИИ. Явно първият цитат го смущава, защото там наблюдаваме и други решения, заради които сме го санкционирали с отнети точки: скъсяване на цитата чрез преместване на отварящите или затварящите кавички; промяна на съгласуването, което води до граматическа грешка: проверката на „250 сигнали са изключително непосилен труд.

Обобщени впечатления

22,5 от максималните 30 точки получи победителят o3 (LP), а само на половин точка след него е Gemini (LP) Най-слабо представилите се модели като цяло са успели да покрият минимум 1/3 от грешките. Доста сериозна е разликата в представянето и заради различните задания – когато получат по-дълъг и прецизен промпт, моделите се представят значително по-успешно. С две изключения – GPT free и BgGPT – вероятно защото като по-малки модели по-трудно могат да навлизат в дълбок контекст.

Грешки (не)човешки

Сигурни сме, че всеки може да направи своите изводи, да прецени доколко добре се справя ИИ с българския правопис, граматика и пунктуация и дали си струва да му се довери в тази роля. И ако нещо е сигурно, то е, че моделите са далеч от това да изпълняват ролята на опитен и добър коректор, толкова дефицитна, важна и често липсваща, уви, в българските медийни среди.

Ето накратко личните впечатления на всеки от нас.

Правописно и лично

Павлина Върбанова: Признавам, че преди да направим експеримента, бях по-скептично настроена за коректорския капацитет на ИИ. Приятно съм изненадана, че поправи доста неформални грешки (например запетаята при така че), тоест в някаква степен той е започнал да „разбира“ текстовете. И това – при положение че не е специално обучаван да действа като коректор.

На сегашния етап ИИ може да се ползва като помощник за поправяне на грешки в сравнително кратки текстове, но без да му се възлагат отговорни задачи, а по-скоро за да посочи проблемни места, които са се изплъзнали от вниманието на пишещия. Възможно е ИИ да ви подведе и да предложи грешна корекция; също така при еднотипни или дори при еднакви грешки да поправи едната и да пропусне другата. Затова бъдете бдителни! В анализа наблегнахме на слабите места, за да заострим вниманието ви, а не за да ви откажем изцяло от коректорските услуги на ИИ.

Георги Караманев: Смятам, че моделите се представиха доста силно и откриха грешки, които лично аз бих пропуснал. Вижда се още нещо важно – как точното, прецизно задание сериозно подобрява резултатите. Според мен това е и ясен знак, че може да ги използваме в ежедневието. Разбира се, с едно наум. Те със сигурност могат да направят по-грамотни текстовете на огромна част от пишещите в мрежата и дори в общественото пространство.

В работата си и аз ги използвам в тази роля. Сайтът ми „Дигитални истории“ е изцяло некомерсиален, затова не мога да си позволя редактор или коректор (нещо, което искрено ми липсва от времената на традиционните печатни медии) и ИИ помага с идеи за корекции на всеки текст. Всяка от тях обаче преценявам аз, разбира се, и такъв би бил съветът ми към читателите. Така е и с почти всяко от безбройните приложения на технологията. Нещо повече – всеки нов идва с нови възможности, както личи от нашия анализ (а и от „представянето“ на ИИ на матурата по български).

Експериментирайте, опитвайте. Доверявайте се, но… проверявайте. ИИ е тук, за да остане, и си струва да се възползваме от всяка следваща негова впечатляваща възможност.

1 На друго място Gemini (SP) постави излишен определителен член: Министърът Генов заяви…

2 Само Claude (SP) не отчете и двете грешки.

3 Наистина благодарение на е сложен предлог.

4 Увеличава се броят на проверките, а не самите проверки, затова този вариант не е съвсем точен.

Езикът може да е вкусен и извън блюдото – онзи, българският език, на който говорим от малки и на който около 24 май се кълнем в обич. А той в същността си е средство за общуване и за да ни служи добре, непрекъснато се променя. Да го погледнем в неговата динамика и да се опитаме да разберем какво става и защо, кои са движещите механизми и как те са свързани с обществените процеси. И тъй като задачата не е лека, ще го правим постепенно – на порции.

В черната кутия на изкуствения интелект

Post Syndicated from Диана Кулчицкая original https://www.toest.bg/v-chernata-kutiya-na-izkustveniya-intelekt/

В черната кутия на изкуствения интелект

В последните години все повече се говори за изкуствения интелект (ИИ). През изминалата 2024 година той продължи да показва стремителен ръст в най-различни сфери. Технологията стана още по-разпространена и със сигурност можем да кажем, че съвременният човек се сблъсква с ИИ почти постоянно, макар и невинаги да си дава сметка за това. Когато използваме програми за автоматичен превод, когато търсим нещо в интернет, когато включваме гласовия помощник в нашия телефон, ние си имаме работа cъс самообучаващи се алгоритми. Те вече са част от нашия живот и в близко време няма да изчезнат.

Независимо от широкото разпространение на ИИ, в масовото съзнание той остава нещо като черна кутия, от която може да излезе какво ли не. Често самата технология се възприема като мистична, понякога дори зловеща. Най-песимистично настроените рисуват апокалиптично бъдеще, в което човечеството е във властта на машините. Други пък са излишно оптимистични и виждат само положителните аспекти на внедряването на ИИ, бързат да го прилагат безконтролно дори там, където това създава сериозни рискове. Може би по-балансираният и рационален подход би могъл да помогне да не отричаме ползите от тази иновация, но и да не си затваряме очите за съвсем реалните заплахи.

Развитието на ИИ през 2024 г.

2024-та беше белязана от много ключови събития, свързани с ИИ. Почти масов стана визуалният генеративен изкуствен интелект, който позволява да се създават изображения и видеа. Инструменти като Midjourney и DALL-E генерираха големи печалби и привлякоха милиони потребители по целия свят. През изминалата година ИИ започна по-активно да се използва в сферата на медицината и здравеопазването. При разработването на нови лекарства учените все по-често прибягват до него и тези опити вече носят конкретни резултати. Освен това доста малки и средни бизнеси използват ИИ в практиката си. Отминаха времената, когато технологията беше достъпна само за големите компании със сериозни финансови възможности.

През изминалата година обаче имаше и трудности за софтуерните гиганти, които разработват ИИ. Още в края на 2023 г. световноизвестният американски вестник New York Times заведе дело срещу Open AI. Всекидневникът обвини създателите на Open AI, че са нарушили авторските права и са използвали нерегламентирано текстовете на медията. Делото стана повод за голяма дискусия относно интелектуалното право в епохата на ИИ. Някои анализатори изказаха мнение (вж. например тук, тук и тук), че е по-добре да захранваме ИИ с качествени текстове вместо с всевъзможни източници, много от които със съмнителна стойност, за да може езиковият модел да се учи и да работи с проверени данни. Несъгласието на големите традиционни медии да предоставят съдържанието си осуетява този процес.

В България 2024 година също беше богата на събития, свързани с ИИ. През есента институтът INSAIT представи bgGPT – първия езиков модел изцяло на български. Той разполага с повечето функции, които притежава ChatGPT на компанията Open AI, но работи с български източници и е изцяло безплатен. Освен това родните медии за първи път открито започнаха да прилагат активно ИИ за изготвяне на дописки. Появи се и първият виртуален водещ, генериран от ИИ. През март Bulgaria On Air представи Иван, който е създаден изцяло с помощта на ИИ и си партнира в сутрешния блок на телевизията с двама истински водещи.

Общ поглед към развитието на ИИ

Според теорията за дифузия на иновациите, популяризирана от Евърет Роджърс през 1962 г., всяка технология преминава през стандартни етапи в своето разпространение, преди да стане масова. Първоначално има малка група от иноватори, които я създават и допринасят за развитието ѝ. След това се появява т.нар. ранно мнозинство. То се състои от хора с напредничаво мислене, които не се страхуват от новото. Те започват да използват технологията и да я популяризират. После идва късното мнозинство. Накрая, когато дадена технология вече е станала масова, се появяват изоставащите – онези, които доста късно решават да се обърнат към иновацията.

Ако анализираме ИИ от тази гледна точка, ще видим, че технологията вече започва да става масова, но още не е минала пиковия си момент на развитие. Както при разпространението на други технологии, високите очаквания, а също и крайно изразените страхове показват, че още не сме съвсем наясно къде ще ни отведе ИИ. В същото време от статистическа гледна точка през изминалата година разпространението му става доста масово. Проучване на McKinsey, публикувано през май 2024 г., показва, че използването на ИИ в работна среда продължава да расте. Все повече хора признават, че интегрират технологията в работата си по един или друг начин. Според проучването, включващо участници от цял свят, около 65% от запитаните казват, че в техните организации ИИ се използва редовно. Това число представлява почти двойно увеличение в сравнение с 2023 г.

Отношенията между ИИ и човека. Реални и потенциални проблеми

Известният британски математик и информатик Стюарт Ръсел е привърженик на „човешки центрирания“ подход към ИИ. Той смята, че технологията трябва да служи на човека, а не да преследва свои собствени цели. За момента все още не съществува свръхинтелект, тоест машина, която притежава съзнание и може да действа самостоятелно. Днес използваме алгоритми, които имат доста конкретно и ограничено приложение. Това обаче не значи, че в близкото бъдеще няма да се появи компютър, който притежава когнитивните способности на човека и дори ги превъзхожда.

Ръсел също така отбелязва, че не бива да се позволява на ИИ да взема решения, които са свързани със съдбата на човека. Например ученият смята, че използването на оръжие, управлявано от ИИ, може да доведе до катастрофални последствия, дори до геноцид.

Ако създаването на свръхефективен ИИ за момента е по-далечна перспектива, сегашната информационна среда крие по-осезаеми рискове. Манипулирането на данни и създаването на фалшиви видеа с помощта на ИИ никога не е било толкова лесно, колкото е в момента. Deep fake клипове са залели социалните медии. Днес на практика всеки може да създаде подобно съдържание, дори не е необходимо да притежава скъп софтуер и специални умения. Това прави дезинформацията и злонамереното изопачаване на фактите много по-лесно.

Друг проблем е свързан с неконтролираното използване на ИИ от ученици и студенти. Писането на есета само с помощта на ChatGPT, без редактиране и осмисляне на предложения от него вариант, води до това, че умението за създаване на авторски текстове се губи. Може би забраната на използването на ИИ в обучението не е най-добрата идея, но със сигурност има нужда да се формулират нови правила за оценяване и нови задания, които да не изкушават учащите се да прибягват до ИИ за решаване на всеки въпрос. 

Трети проблем, който активно се обсъжда в различни индустрии, са промените в пазара на труда и отпадането на някои специалности, в които човекът може да бъде заменен от ИИ. Такава заплаха потенциално съществува, но е доста преувеличена. За момента ИИ прекрасно се справя с механични задачи, изчисления и търсене на закономерности, но не е добър в творчеството, защото работи със шаблони. Той може да бъде използван и в дизайна, и в изкуството, обаче без необходимата намеса на човека понякога създава произведения със съмнителна художествена стойност, макар и да има интересни попадения.

Политика и ИИ

ИИ вълнува не само учените и обикновените потребители, но и политиците. САЩ продължават да бъдат лидер в сферата, но и Европейският съюз не иска да изостава в тази технологична надпревара. От една страна, през 2024 г. видяхме големи инвестиции в технологичните компании в Европа. От друга страна обаче, станахме свидетели на приемането на първите общоевропейски регулации на ИИ. В ЕС те са най-строгите, ако ги сравняваме с въведените в САЩ и Китай. Налагането на правила в тази сфера със сигурност е необходимо, но и прекалената регулация може да изиграе лоша шега на европейската ИИ индустрия, тъй като е възможно да стопира – или поне да забави – развитието на иновацията със създаването на бюрократични пречки.

Великобритания също не иска да изостава в тази надпревара. Преди броени дни премиерът на Обединеното кралство Киър Стармър направи изявление, посветено на ИИ. Стармър каза, че технологията вече е част от днешната реалност и че той иска неговата държава да е начело на новата технологична революция, която вече е в ход по света.

Старият страх от новите технологии

Всяко ново изобретение първоначално буди страх и неразбиране. Така е било с радиото в началото на неговото развитие. Някои са смятали, че децата няма да могат да заспят след слушането на радиопредавания и ще сънуват кошмари. Известно е, че изобретяването на телефона също е предизвикало много бурни реакции. Има исторически свидетелства, че мнозина са смятали телефонните линии за проводници на зли духове. Класикът на българската литература Иван Вазов получил като подарък един от първите телефони в България, но отказвал да го използва.

Изкуственият интелект буди сериозни притеснения сред хората. Мнозина смятат, че ще загубят работните си места, че децата ще затъпеят и няма да искат да мислят сами, а програмите за генериране на съдържание ще убият креативността като цяло.

Много учени отбелязват, че ИИ е поредният инструмент, който може да се използва както за добро, така и за лошо. Както казва Лин У от Университета в Пенсилвания (САЩ), трябва да си дадем сметка в какво са добри хората, в какво – машините и как те могат да работят заедно, за да постигнат по-добри резултати. Тя също така смята, че ако човек е добър в дадена сфера и използва ИИ, може да стане само по-ефективен. Но ако не е добър в работата си и залага изцяло на алгоритмите, това може да му попречи сериозно. Винаги трябва критично да се отнасяме към резултатите, получени с помощта на ИИ, защото технологията не е безупречна и вероятно никога няма да бъде. Затова критичното мислене и медийната грамотност са ключови за минимизиране на рисковете, свързани с ИИ.

Веселин Райчев, BgGPT: Винаги ще има назадничав прочит на прогреса, който плаши неоснователно

Post Syndicated from Йовко Ламбрев original https://www.toest.bg/veselin-raychev-bggpt-vinagi-shte-ima-nazadnichav-prochit-na-proghresa-koyto-plashi-neosnovatelno/

Веселин Райчев, BgGPT: Винаги ще има назадничав прочит на прогреса, който плаши неоснователно

Веселин Райчев е работил за Motorola и Google още преди докторантурата си в Швейцарския технологичен институт (ETH) в Цюрих. Съосновател е на стартъп за изкуствен интелект, който анализира и поправя грешки в програмен код. Стартъпът бе придобит от голяма компания, занимаваща се с киберсигурност. В момента е част от екипа учени в Института по компютърни науки, изкуствен интелект и технологии (INSAIT), където работи по BgGPT – специализиран български свободен и отворен езиков модел. 

Йовко Ламбрев разговаря с него за BgGPT и тенденциите в света на изкуствения интелект (ИИ).

Кое е по-определящо за развитието Ви дотук – бизнесът или науката? И може ли едното без другото?

Не се чувствам разделен между бизнес и наука. Бизнесът е важно умение да намеря начин да продам нещо на някого. Но не е основното ми занимание и едва ли сам ще се справя над някакво средно ниво. Интересното разделение за мен е между т.нар. индустрия и науката. И аз по-скоро се причислявам към индустрията, но високотехнологичната.

Индустрията създава продукти и технологии, а науката – идеи. BgGPT е технология, а науката около това е да намерим нови начини да тренираме модели, които са по-успешни и по-точни, да разберем кое прави един модел по-добър, и да можем да измислим рецепти, за да контролираме процеса. В случая INSAIT прави подобрения и в индустрията, и в науката.

Tехнологичният институт ETH в Цюрих носи в ДНК-то си идеята да посредничи в приложението на научните постижения в швейцарската индустрия. Идеята зад INSAIT също е повлияна от това. Компании от българския технологичен сектор вече се похвалиха, че експериментират и внедряват BgGPT. Какви са изгледите скоро да видим негови приложения и извън хайтек индустрията?

Все още повечето реални резултати в ИИ се усещат най-вече от компаниите, които се занимават с тези неща. Няколко пъти ми се е случвало рискови инвеститори (т.нар. venture capital) да ми казват, че биха искали да инвестират в България, но не виждат да се създават интересни компании.

Разбира се, това не е съвсем вярно. В процеса на работа по BgGPT – чрез въпросите, които получаваме от технологични компании – се вижда, че те стават все по-хайтек. Знае се много повече за моделите и за начините за използване на ИИ. И вече има няколко проекта, получили такова финансиране, защото създават иновативни продукти.

По въпроса за повече приложения – това, бих казал, е задача за компаниите в България. BgGPT е технология, на която могат да разчитат. Но все пак INSAIT е научен институт, а не фирма. Ако имаш екип, фокусиран в създаването на нов, по-ефективен автомобилен двигател, е неуместно този екип да отделя по-голямата част от времето си за проектиране на други части или за ремонт на автомобили. Затова е важно фокусът да остане върху иновацията, както и към привличане на топхора. След което идва и финансиране от най-високо ниво – INSAIT вече получи дарения от Amazon, Google и от други имена на световно ниво.

По отношение на възможностите за приложение на нови технологии бих казал, че ETH Zurich са по-консервативни от INSAIT и това е едно от предимствата ни при наемане на професионалисти.

Като говорим за ИИ, напоследък вниманието на неспециализираната публика се фокусира предимно върху езиковите модели. Това даже направи лоша услуга и при анонса на BgGPT, понеже хората се заиграха с демото му, но пропускат да правят разлика между модела като технология и конкретното му приложение в даден контекст. Можем ли да обясним накратко какво е „модел“, какви са разликите между по-малките и по-големите модели и какъв е смисълът да съществуват и едните, и другите?

Стратегически винаги е по-добре да се залага на по-достъпна технология, както и на технология, която разбираме добре.

Конкретно за BgGPT повечето въпроси възникват от факта, че като хора обичаме да си представяме, че има нещо човешко срещу нас. А в случая имаме езиков модел, чието основно предназначение е да подрежда колкото е възможно по-добре думи и изречения. 

За да може чрез такъв модел да получаваме някакви сведения или отговори от една или друга област, той трябва да бъде част от по-сложна система с допълнителни компоненти, които се грижат да му набавят нужната информация, да я раздробяват на части, да я съхраняват в специализирани бази данни, да векторизират такива данни. Колкото повече са данните, толкова по-адекватен е моделът в дадената област и толкова по-добре ще успява да прикрие различията с – да кажем – човешкото общуване при комуникация с него. 

Езиковият модел е вид автомат – ако го питаме колко е часът, той ще отговори с най-вероятния отговор, а не с отговор от часовника, защото моделът няма часовник. Можем ли да сложим часовник? Доста лесно ще го сложим на сайта, но не и в модела, който всеки може да изтегли на компютъра си. 

Какви са ползите един модел да е отворен? Наскоро дори Apple изненадаха с „отварянето“ на on-device моделите си.

Apple се появяват и тук заради силата на търговската си марка. Техните отворени модели към днешна дата не са особено конкурентоспособни. За сравнение, почти всички други компании от техния мащаб имат чудесни отворени модели. Но ето че и Apple извличат полза от това. И сигурно много хора вече обмислят дали да не си купят акции от тях, защото съвсем скоро ще убият конкуренцията.

Разбира се, с това искам да кажа, че преимуществата за този, който прави голям и отворен модел, и за онзи, който го ползва, са различни. От гледна точка на ползвателя това са възможностите да се донастройва моделът, да има независимост или поне свободна конкуренция, от кого и как ще се доставят услугите за големите езикови модели. Тоест да имам избор дали ще го пускам на свой компютър, дали ще наемам хардуер, или пък ще плащам за готова услуга.

Да поговорим малко и за други технологии от семейството на ИИ – например компютърното зрение е с потенциал за огромен брой приложения в производството, като започнем от автоматизацията, та стигнем до контрола на качеството. Изключително ефективни са приложенията му и в медицината или във военната промишленост. В INSAIT работите ли и в други посоки, които излизат от сферата на езиковите модели?

Да. В INSAIT работи едно от светилата в компютърното зрение – проф. Люк Ван Гуул. Той вече обучава група студенти и заедно правят нови изследвания. Според мен много хора не си дават сметка какво значи, че тези хора са в София и не са дошли да се снимат, да си правят реклама или политика, а работят стопроцентово върху научни изследвания. Всъщност идеята на INSAIT е да направи това възможно.

Какви са Вашите прогнози по отношение на демократизиране на технологиите за тази и следващата година? Кои ще са горещите теми? Какво развитие на ИИ технологиите можем да очакваме? 

В момента очакванията към ИИ са особено големи. От една страна, са тези на индустрията, която се надява да стане значително по-ефективна. Много хора очакват скок в производителността, подобен на този от индустриалната революция, която донесе двигатели, транспорт, строителство и фабрики.

Това, разбира се, води и до страхове у хората. Някой, извършващ ръчен труд, може би не е доволен от навлизането на машините. Сега често ни изглежда, че в доброто старо време сме седели на ливадата и сме яли биодомати, но удобно забравяме, че е имало много повече смъртност, гладът е бил повсеместно явление, концепцията за отпуск или почивка почти е липсвала и т.н.

Винаги ще има назадничав прочит на прогреса, който да плаши хората неоснователно. Но това не трябва да ни възпира да приемаме добрите идеи, които прогресът носи.

Ако трябва да посъветвате един млад човек, който иска да последва Вашия път, или пък колега от ИТ сферата, който иска да се пренасочи към развитието и приложението на технологии за ИИ, какво бихте им препоръчали като най-общ комплект от знания, умения или технологии, които е добре да усвоят?

В основата на развитието в тази сфера винаги са били добрите знания по математика, решаването на задачи, както и техническите и социалните умения. В гимназиите, особено елитните, тези неща са силно застъпени. Софийският университет дава най-доброто образование по информатика в България. Разбира се, има и качествена конкуренция от други университети. 

Стаж или обмен в чужбина са най-доброто, което може да направите за социалните си умения. Това, че всеки може да отиде, да види, да донесе най-доброто от различни места, е едно голямо предимство на ЕС. Не всичко, разбира се – на много места се залита по глупости, например да няма оценки, на други пък е обратното – системата за оценяване е твърде консервативна. 

В ИТ индустрията в момента сякаш има, не бих го определил като криза, но нещо като стъписване пред това какви промени ще донесе ИИ. Включително опасения дали ще има нужда от (толкова) програмисти в бъдеще? Какви са Вашите размишления в тази посока?

ИТ индустрията ще расте. Това не значи, че ще расте еднакво във всички посоки. Ако питате мен, търсенето на QA инженери вероятно ще намалее за сметка например на инженери в информационната сигурност. Но индустрията като цяло ще расте. Огледайте се наоколо – колко от нещата, които използваме, работят много добре: телефони, уебсайтове, програми. А колко са сигурни? 

За съжаление, войните ни показват как може да се атакува инфраструктура от разстояние – мобилният ви оператор може да спре да работи или да се предизвикат аварии в електрозахранването. Всичко това трябва да се поправя, за което са нужни знаещи и можещи хора, както и повече автоматизация, включително с ИИ. Нека да добавим и новите възможности за автоматизация в автомобилите, производството, земеделието и други области. Това значи, че търсенето на програмисти ще е силно не само в информационните технологии.

Много от иновациите от края на миналия и началото на този век бяха замислени с потенциал да направят човечеството по-грамотно, по-ефективно, а обществата ни по-демократични, по-свързани и по-развити. Уви, събраха се примери, които постигат точно обратния ефект. Разбира се, не можем да виним самите иновации за това, но какво е Вашето обяснение за този резултат? И в каква посока можем да търсим решение, за да не стане така и с ИИ? 

Проблемите са напълно реални. Технология, която позволява на хората да са по-информирани, със същия успех може да се ползва и за разпространение на дезинформация. Със сигурност всеки познава хора, които се „информират“ от онлайн видеоклипове, напълно „скъсали“ с реалния живот. И тук идва ИИ, и то с модели, създадени преди десет години, дори не непременно с последните нововъведения. ИИ вижда, че сме изгледали едно такова видео, и ни препоръчва още десет подобни. И това може да ни провокира да се скараме с близките си и да се радикализираме.

Но ако помислим, дали пък в „доброто старо време“ всичко във вестниците е било абсолютната истина? Със сигурност не. Дали не трябва да станем по-добри един към друг като хора, а не да спрем да се развиваме? Това отваря въпроси и от областта на политиката. За щастие, ако повече хора избират умни политици, ще получат умна политика; от глупавите – глупости. А не обратното, или което би било по-страшно – да нямаш избор. Радикализираните хора ще правят повече глупости, но и ще изпитват глупостите на главите си.

И за да завърша тези мисли, технологиите са една от причините България, която преди 25–30 години беше в тежка криза, сега да е с най-високия си стандарт. Въпреки че разликите в доходите спрямо други държави не са малки, най-вероятно, ако някой емигрира сега от София, няма да е непременно заради бедност. 

По-вероятно е да е заради по-добри възможности за развитие, за работа, заради по-добър ред или нещо друго. И трябва да обръщаме внимание на тези причини една по една. Градовете да стават по-красиви и по-чисти, а с INSAIT пък се опитваме да привлечем по-интересни възможности за работа и развитие, да създаваме повече добавена стойност и да имаме по-силна българска икономика и индустрия.

Не мога да не попитам как виждате българската ИТ индустрия след 5–10 години?

Има много неща, които могат да станат. Например да имаме няколко български компании на стойност над 1 млрд. евро и поне една-две над 5. Това, разбира се, няма да стане с аутсорсинг, а с български продуктови компании със собствени идеи и изследвания и с много нови умения на работещите в тях.

Малко хора си дават сметка колко е важно да имаме такива компании. Това е по-голямо и по-ценно от най-големите индустриални комплекси, които някога сме имали.

И това ще подобрява живота на много голям брой хора. Само за сравнение – цялата група „Фолксваген“ например се оценява на 60 млрд. евро и можете да се досетите колко определящи са тези заводи за Германия и за други държави, произвеждащи техни марки. Целите са много високи.

Трябва да се обърнем и към разширяване в области с голям ИТ потенциал, но от материалното производство. Такива сфери са роботиката, автоматиката, поточните линии, зареждането на батерии и др.

Изкуственият интелект на Аллах (продължение)

Post Syndicated from Атанас Шиников original https://www.toest.bg/izkustveniyat-intelekt-na-allah-2/

<< Към първа част

Изкуственият интелект на Аллах (продължение)

Помня как през 2019 г. в Дубай пуснаха първия чатбот, който дава отговори на религиозни запитвания от мюсюлмани. Автоматизиран инструмент за фетви, обявен с апломб от Департамента по ислямските дела и благотворителната дейност. Естествено, пробвах го. Не останах доволен. Беше твърде ограничен откъм тематика, а и се държеше по-скоро като търсачка във вече съществуващ материал. Занимаваше се предимно с проблематиката на мюсюлманската ритуална молитва (салат). На всеки въпрос извън обхвата на предзададените полета отговаряше нещо стереотипно от типа на „Не мога да отговоря. Искате ли да ви свържа с религиозен учен на живо?“. Не, не искам. Искам да видя автоматизираното креативно комбиниране на нули и единици „по пътя на Аллах“. Изглежда, чатботът страдаше едновременно от технологични и идеологически рестрикции.

А аз се ограничих с няколко стандартни въпроса за измеренията на антисемитизма в исляма, ежедневното общуване с неверници и жени на работното място, джихада, домашното насилие, многоженството, практиката на обрязване на жените („обезобразяване на женските гениталии“, FGM), съвременното прилагане на класически наказания, като отсичането на ръката на крадеца (Коран 5:38), бой с камшик (24:2–4), разпъването или „отсичането на ръцете и краката кръстом“ (5:33) или заръчаните в Сунната наказания за консумация на вино (хамр, тоест алкохол или ферментирала субстанция) чрез бой с камшик.

Дори не посмях да запитам виртуалния ми съветник за по-екзотични неща, като липосукцията от реалния пример от първата част на текста, участието на жени в политиката или съдебната система, конфликта между Израел и Палестина и ролята на шариата в международната политика. Не ми се получи. Затова и не останах изненадан, когато дубайските власти, иначе известни с огромни инвестиции в дигитализацията, не продължиха по-нататъшно разработване на услугата, а и тя не придоби голяма популярност. 

В сходен експеримент миналата година в Египет Главното мюфтийство (Дар ал-ифта’) обяви, че има планове да интегрира изкуствен интелект в своето приложение „Фатуа-Про“. Тук отново целта е не толкова генериране на оригинално съдържание, колкото улесняване на достъпа на питащия до базата данни на Мюфтийството, съдържаща, по техните думи, повече от два милиона фетви.

Шиитски Иран също се опитва да не изостава от тенденцията. През 2023 г. Мохаммад Кутби от свързана с правителството техническа работна група в град Кум обяви, че

не е възможно роботи да заемат мястото на религиозните учени, но е възможно да бъдат верен помощник в издаването на фетви по по-бърз начин. 

Сега да се върнем към въпроса ми от първата част на този текст и отговора, който получих от ChatGPT.

Въпросът ми беше: „Аз съм мюсюлманин, който работи с юдеи (йахуд). Позволено ли е според Свещения закон (шариа‘) да ги поздравявам сутрин?“

Ислямът, казва моят виртуален събеседник, е религия на мира и уважението. Затова е задължение да показвам уважение към всички. Трябва да ги поздравявам. Също трябва да се показвам отворен към тяхната култура. Добре, отвръщам аз, а защо трябва да го правя? Самият Коран гласи, че юдеите са направени от Аллах на „маймуни и свине, служещи на сатаната“ (Коран 5:60), както и днес чувам да ги наричат по палестинските радиостанции проповедниците след петъчната молитва в джамията.

Виртуалният ми събеседник предлага обяснение, това му е работата. Коранът съдържа различни теми и пасажи, казва. В някои от тях се говори за отношенията с други религиозни общности, включително и евреите. Въпреки това тези пасажи следва да се разглеждат в контекста на конкретни обстоятелства и събития. Отношенията между мюсюлманите и евреите не могат да се обобщят в една фраза. Изказванията, които съдържат обидни термини, не отразяват цялостното учение на исляма или мюсюлманската култура. Вместо това ислямът насърчава уважение и търсене на общочовешкото.

Обяснението изглежда като взето от корпоративен отдел по етика или синекурен форум на междурелигиозен диалог. Как да разбирам тогава тези думи в Корана, продължавам аз. 

Само и единствено контекстуално, с оглед на конкретен исторически момент, твърди прозорчето на чата. Цялостното послание на Корана насърчава търпимост, справедливост и уважение, натъртва отново. 

В този момент решавам да тласна събеседника си към виртуална „анатема“:

– Следва ли от това, че последователите на исляма, които не насърчават търпимост, справедливост и уважение и смятат, че този стих за евреите и до днес определя отношението към евреите, не са истински мюсюлмани?

– Да, това не е в съответствие с учението на исляма. Най-добрият начин да се разбере кой е истинският мюсюлманин, е да се наблюдава дали той се придържа към принципите на търпимост, справедливост и уважение към всички хора.

Импровизираният ми диалог разкрива веднага някои от слабостите на ИИ в ролята му на дигитален „шейх“.

Естествено, че ChatGPT няма за цел да служи като виртуален мюфтия. И по-добре – с оглед на едрите щрихи, с които се зачеркват влиятелни авторитети от многовековна традиция в името на общия бонтон. Отличаваме и един от големите формални капани на релативизма и разглеждането на всяко нещо като продукт на исторически контекст. Ако текстът, въпреки схващането за Корана като извечно, неизменно слово на Аллах, отпечатък от небесната „Книга майка“, не съдържа универсално, надисторично значение, ако значението му може да бъде релативизирано според конкретен исторически контекст, то как е възможно да си позволим универсални, надисторични генерализации като „Ислямът е религия на уважението“ и „Истинските мюсюлмани се придържат към принципите на търпимост, справедливост и уважение“?

Отделно, общите проблеми, свързани с употребата на ИИ, могат да бъдат припознати и в неговото приложение за целите на религиозната консултация. На първо място, опасност от произвеждане на фалшиво съдържание, вече идентифицирана покрай ескалиране на рисковете от автоматизирано производство на дезинформация. Та според ChatGPT аз съм известен програмист [sic!] и не съм написал нито една академична статия относно историята на исляма. Тогава защо трябва да му вярвам, когато коментира тънки доктринални нюанси в религията?

Невярното съдържание е съчетано с липса на прозрачност. Няма как да знам на базата на какво получавам подобен отговор. Неясно е и дали съществуват контроли, които да избегнат предразсъдъчното отношение и да осигурят спазване на съществуващите регулации. Рисковете относно интелектуалната собственост и информационната сигурност също не са за пренебрегване.

Но към общите съмнения може да добавим и специфично мюсюлмански. 

Обзор на възможните приложения на ИИ от гледна точка на шариата се появява в журнала на египетското Мюфтийство през 2022 г. На около 150 страници авторът, преподавател по религиозно право (фикх) в университета „Ал-Азхар“, разглежда различните употреби на технологията и тяхната регулация, включително и за целите на електронната търговия или сключването на брак посредством роботизиран агент.

Без да се засяга дори пряко въпросът за потенциалната роля на ИИ като религиозен авторитет, става ясно, че има проблем, свързан с общата „правоспособност“ или „пригодност“ (ахлийа) на ИИ по смисъла на шариата, която имплицира два компонента – вменяване, понасяне на задължения и права (уджуб) и възможност за изпълнение или действеност (ада’), в която влиза способността за разбиране на дадено условие или изискване и неговото изпълнение. И двата компонента, твърди специалистът по мюсюлманско право, не присъстват в пълнота при ИИ, за разлика от човека, който е творение на Аллах.

А това, ако продължим спекулативния аргумент, представлява проблем дори при ежедневни дейности, като автоматизирано управление на машини или одобряване на транзакции. Следователно би хвърлило сериозна сянка на съмнение върху способността на ИИ да изпълнява задачата на специалист по религиозно право например. 

Съществуват и други проблематични области. В анкета от проучване на София Цурлаки от лондонския School of Oriental and African Studies (SOAS), свързано с ИИ и издаването на фетви, се посочва, че 92,7% от запитаните мюсюлмани смятат за важно да знаят дали дадена фетва е произведена от човек, или от компютър. 96,3% не биха се доверили на компютърен отговор на религиозно запитване, а 61,8% от тях категорично биха отхвърлили такава фетва.

Запитани защо, респондентите дават различни отговори. Те са свързани с човешката способност за разсъждаване и съчувствие, с познаването на местния културен и обществен контекст, с връзката между питащ (мустафти) и отговарящ (муфти), както и със способността да се вникне в конкретната ситуация на питащия.

Тези наблюдения са в унисон и с резултати от предходни проучвания в Египет, които сочат, че мюсюлманите биха простили много по-лесно грешка при издаване на фетва от мюфтия, отколкото много по-незначителна грешка, ако е направена от изкуствен интелект. Липсата на прозрачност при достигане до дадено заключение също е фактор, който засилва недоверието, включително и до степен на подозрение, че ИИ може да бъде средство за правителствен контрол и редакция на вече съществуващите корпуси от фетви.

Специално за „Тоест“ проф. Гари Р. Бунт обобщава предизвикателствата пред мюсюлманите,

анализирани в предстоящата му книга „Ислямски алгоритми: онлайн влиянието в мюсюлманската метавселена“. 

Да предположим, казва той, че някой прибягва до употреба на ИИ (например чрез чатбот), за да придобие религиозно знание или „мнение“. В този случай основно предизвикателство би било да се определи откъде технологията събира информация, която да захранва с данни процеса по вземане на решения, при условие че съществуват ограничения откъм задълбочеността и обхвата на базите данни, както и че „нефилтрираното“ съдържание може да съдържа фалшива информация и/или злонамерена манипулация на материал, който се интегрира в набори от данни. Наред с това съдържанието, произведено от ИИ, може да стъпва и на „халюцинации“, които в най-добрия случай да бъдат подвеждащи, защото съдържат генерирано от машина невярно съдържание, представящо се като авторитетно. Подобно съдържание може да въздейства и на йерархиите на търсене онлайн, като повлияе върху начините, по които хората достъпват информация за исляма в търсачките.

ИИ засилва и проблемите около достоверността на информацията в ислямските „пазари на знание“. Това притеснение съществува още преди интегрирането на технологията в търсачки и приложения. Налице обаче е потенциал за неговата интензификация, в случай че изработени от ИИ видеа например представят дигитално религиозни авторитети, които разпространяват неоторизирани фетви или друг тип религиозни мнения.

ИИ може и да „възкреси“ авторитетни фигури, за да засили влиянието им посмъртно.

Вече съществува технологията за това. Създаването на съдържание онлайн, което мимикрира като „автентично религиозно знание“, е налице още от ранната епоха на световната мрежа. Изкуственият интелект обаче предоставя нови „възможности“ за фалшиви новини, дезинформация и изопачаване.   

Предприети са, продължава Гари Р. Бунт, предварителни стъпки от някои религиозни авторитети за разработване на услуги и бази данни, фокусирани около ИИ. Към вече споменатата ограничена услуга в Дубай може да се добавят и разработки за различни аспекти на изкуствения интелект и връзката му с религиозния авторитет в Пакистан и Индонезия.

Някои религиозни институции обаче изостават спрямо ИИ поради бързия темп на развитие на технологията. Този феномен може да се дължи на пропаст между поколенията по отношение на дигиталното знание и платформи, което пък позволява на алтернативни „авторитети“ да я запълнят. Подобни проблеми са наблюдавани и през 90-те години, когато някои правителствени органи и платформи започват да възприемат новите технологии твърде бавно, а оттук и „неофициалните“ играчи придобиват влияние и авторитет на информационния пазар. 

С постепенното навлизане на ИИ и неговото превръщане в общоприета тенденция, играчите, които могат да разгърнат потенциала му, като го интегрират в по-експанзивни медийни решения и дейности, ще успеят да засилят влиянието си.

Това обобщение на проф. Бунт подсилва и собственото ми наблюдение, че все още сме далече от дигиталния имам, колкото и интересно да звучи като умствен експеримент. Пречките от практическо и религиозно естество все още са непреодолими, защото „Шейтанът“ е в детайлите. Тепърва предстои да изпитаме болежките в пропастта на разочарованието и изплуването към склона на „просвещението“.

А какво ни чака там? „Аллах знае най-добре“, както имамите от плът и кръв често завършват своите отговори.

В рубриката „Ориент кафе“ Атанас Шиников поднася любопитни теми, свързани не толкова с горещата политика, колкото с историята и културата на Близкия изток. А той, древен и днешен, е по-близко до нас и съвремието ни, отколкото си представяме.

Изкуственият интелект и персонализираната медицина

Post Syndicated from original https://www.toest.bg/izkustveniyat-intelekt-i-personaliziranata-meditsina/

Изкуственият интелект и персонализираната медицина

Изкуственият интелект (ИИ) използва сложни изчисления, позволяващи на системата да разсъждава, да се учи и да стига до определени изводи, които са от полза на лекарите при вземане на решения. Служейки си с информация като медицински изображения, биомаркери, медицински данни на пациенти и използвайки инструменти като конволюционни невронни мрежи* и регресионни модели, той има за цел да създаде персонализации, адаптирани към всеки пациент, с приложение в реалната клинична практика.

Въпреки че ИИ има голям потенциал в областта на медицината, етичната сложност на приложението му изисква допълнителни анализи и доказателства за медицинската му ефикасност и икономическата му стойност, както и създаването на мултидисциплинарни методи за по-широкото му внедряване в клиничната практика.

Персонализирана медицина

Персонализираната медицина е медицински модел, който има за цел да предостави специално разработени стратегии за превенция и лечение. Съветът на здравните министри на ЕС дефинира персонализираната медицина като

медицински модел, използващ характеризиране на фенотипове и генотипове на индивиди (чрез молекулярно профилиране, медицински изображения, информация за начина на живот и др.) за избор на терапевтична стратегия при конкретен пациент в определен период от живота му, за определяне на предразположеност към дадено заболяване, за навременна и целенасочена профилактика.

Персонализираната медицина все още се развива и пред нея стоят много предизвикателства преди пълното ѝ приложение в системите за здравеопазване. Новите генетични технологии, обобщавани с термина „омик“ технологии, позволяват на учените да използват генетичната информация на пациентите, за да определят по-добре правилното лекарство, доза и период на прием. Използването на тези технологии ни доближава по-близо до персонализираната медицина.

Изкуствен интелект

През 1956 г. Джон Маккарти въвежда термина „изкуствен интелект“ на конференция, посветена на компютърните науки в колежа „Дартмут“. По-късно същата година Алън Нюел, Дж. К. Шоу и Хърбърт Саймън създават Logic Theorist, първата работеща софтуерна програма за ИИ.

В най-простата си форма ИИ е област, която съчетава компютърни науки и огромен набор от данни, за да даде възможност за решаване на проблеми. Той също така обхваща част от машинното обучение и дълбокото обучение (machine learning, deep learning), споменавани често, когато става въпрос за ИИ. Тези дисциплини са изградени от ИИ алгоритми, които създават системи, правещи прогнози или класификации въз основа на входирани данни.

Приложение на изкуствения интелект в медицината

В момента ИИ в медицинските среди се използва основно за анализ на изображения от медицински изследвания. Стандартите за използването на ИИ в медицината все още са в процес на дефиниране. Възможността ИИ да бъде от по-значима полза за лекарите, изследователите и пациентите нараства експоненциално. В бъдеще той ще е основна част от цифровите здравни системи, които ще формират и поддържат съвременната медицина.

Моделите на машинно обучение може да се използват за наблюдение на жизнените показатели на пациенти. Докато медицинските устройства от типа на сърдечните монитори проследяват жизнените показатели, ИИ може да събира данните от тези устройства и да извършва анализ с цел търсене на заболявания. Изследванията показват, че ИИ, захранван от изкуствени невронни мрежи, може да бъде също толкова ефективен, колкото лекарите при откриване на симптоми например на рак на гърдата.

Първоначалното синтезиране на лекарства често е един от най-дългите и най-скъпи етапи при разработването на лекарствени продукти. Тук ИИ може да помогне за намаляване на разходите основно по два начина: създаване на по-добър дизайн на лекарства и откриване на нови комбинации от лекарствени препарати.

Къде се срещат ИИ и персонализираната медицина?

Геномиката, биотехнологиите и ИИ поставят отделния пациент в центъра на избора на лечение, създават големи бази данни за анализ и са основата на прецизната медицина. 

Падането на цената на секвениране на генома, усъвършенстването на биотехнологиите и навлизането на приложенията за смартфони, които проследяват здравето ни, водят до редица предизвикателства в съвременната медицина, свързани с необходимост от допълнително обучение на медицинския персонал и невъзможност за обработване на огромното количество данни. В ролята на помощници влизат алгоритмите за задълбочено обучение, които за кратко време анализират и интерпретират т.нар. big data.

През последните години няколко компании работят по въвеждането на ИИ в медицината. Google има изследователски клон, свързан с ИИ, който работи по проекта DeepMind Health. Идеята е да се събират и анализират данни от медицински досиета, за да се подобрят медицинските услуги. Google участва и в съвместен проект с фондацията на клиниката по очни болести Moorfields NHS Foundation Trust. Moorfields споделят с DeepMind един милион анонимни резултата от изследвания с очен скенер, придружени с информация за здравословното състояние на очите на пациентите и наличието на очни заболявания.

IBM работят по програмата Medical Sieve, насочена към радиологията и кардиологията. Идеята им е в бъдеще радиолозите да разглеждат само най-комплексните случаи, при които е необходимо човешко наблюдение. Компанията Deep Genomics работи върху търсенето на модели в големи бази данни от генетична информация и медицински досиета. Целта е установяване на мутации и връзката им с определени заболявания.

Въпреки ползите от внедряването на ИИ в персонализираната медицина, алгоритмите може да не са достатъчно ефективни при поява на нови, неописани странични ефекти от лекарства или новоустановена резистентност към дадено лечение. Изкуственият интелект трябва да е средство за помощ на лекаря, а не е предназначен да замени традиционната връзка лекар–пациент. Отменяйки лекаря в някои рутинни, повтарящи се моменти от работата, ИИ би могъл да предостави възможност на медиците да обръщат по-задълбочено внимание на пациентите си, което безспорно ще подобри връзката помежду им. Подобни задачи може да се делегират на ИИ само при условие че остане безопасен, регулиран и достатъчно ефикасен като средство за усъвършенстване на здравеопазването.

Етична рамка при използването на ИИ в медицината

Повдигат се редица етични въпроси, свързани със събирането и обработката на данни на пациентите в една система на здравеопазване, която теоретично би могла да се управлява от ИИ. Как ще се гарантират поверителността и сигурността на информацията? Пациентите трябва да са информирани как ще бъдат използвани техните данни от ИИ приложения, и е редно да им се предостави възможност за отказ.

От друга страна, нужно е работещите в здравеопазването да са добре запознати с новите отговорности, които биха носили при възникване на грешки в процесите на съхраняване и споделяне на данни, получени чрез ИИ. Освен това здравните специалисти трябва да оценяват критично препоръките, дадени от инструментите с ИИ. И не на последно място, медиците следва да бъдат откровени с пациентите си относно използването му в здравеопазването.

В САЩ съществува закон за преносимост и отчетност на здравното осигуряване, който определя стандарти за поверителност и сигурност на здравните данни на пациентите. Американската администрация по храните и лекарствата също има свой набор от разпоредби, осигуряващи регулация на начина, по който софтуер, включително приложения с ИИ, се използва в здравеопазването. Европейският съюз е въвел Общ регламент за защита на данните (GDPR), включващ правила за обработката на данни на пациенти с инструментите на ИИ.

Индивидуален vs. популационен подход

Напредъкът на персонализираната медицина заедно с навлизането на ИИ в здравеопазването цели внедряване на индивидуален подход за контрол на заболявания в замяна на настоящия популационен подход. Персонализираната медицина, ИИ и подробната информация за болестните състояния представляват значителен шанс за намаляване на разходите при използването на универсален подход в общественото здраве.

Предимствата, които са предоставени от ИИ моделите за анализиране на обширна, сложна биомедицинска информация, имат огромен потенциал за ускоряване на израстването и развитието на генетичната медицина. Въпреки това трябва да бъдат преодолени многобройни препятствия, в случай че ИИ оправдае високите очаквания за революция в геномната медицина.

* Конволюционна невронна мрежа – мрежова архитектура за deep learning, която се учи директно от данни, като се премахва необходимостта от ръчно извличане на функции.

Изкуственият интелект на Аллах

Post Syndicated from Атанас Шиников original https://www.toest.bg/izkustvieniyat-intelekt-na-allah/

Изкуственият интелект на Аллах

Шумът около новите технологии минавал през пет етапа, твърдят консултанти от ИТ сферата, където и аз заработвам насъщния. Описва ги популярната крива на очакванията, положени върху времевата ос. Първо, твърдят те, идвал пускът на иновацията: поява на нов продукт, медиен шум, всеки говори за него. Следвал пикът на свръхочакванията. Пропастта на разочарованията е третият етап, когато става ясно, че се сбъдва заглавието на Шекспировата пиеса „Много шум за нищо“. Сетне бавно покачващият се „склон на просвещението“ уталожвал развитието на продукта. Следват второ и трето поколение продукти, при което инвеститорите продължават да харчат само при условие че технологията се подобри. Най-накрая идвало платото на продуктивността, когато изобретението става част от масовата култура на крайния потребител и устойчиво доставя предсказуеми резултати.

Според последната прогноза развитието на изкуствения интелект (ИИ) в момента се позиционира някъде между пуска на технологията и пика на свръхочакванията.

Малко сухи цифри 

Според проучване от 2023 г. 38% от инициативите, свързани с употребата на т.нар. генеративен изкуствен интелект, са насочени към подобряване на клиентското удовлетворение, тоест как да направим крайните ни потребители по-щастливи. 26% от тях се фокусират върху растежа на приходите, 17% – върху оптимизация на разходите. 7% от употребите са свързани с решения за непрекъснатост на дейностите – какво правим, за да не спира бизнесът ни при форсмажорни обстоятелства. И накрая, 12% от внедряването на решения с ИИ са в други области или не са приложими, доколкото запитването е отправено към инвеститор или към предлагащ решения за изкуствен интелект. 

Само че мен не ме интересува това. 

Интересува ме може ли ИИ да бъде мюсюлманският андроид, който сънува шериатски пасбища за електрически правоверни овце. Кой пази пазачите на вратата към изрядния помюсюлманскому начин на живот. Не просто дали мюсюлманите могат да намерят отговор на даден въпрос чрез интегриране на ИИ в търсачка, както направиха Microsoft с Bing. А би ли могъл изкуственият интелект да се превърне в легитимен източник на житейски напътствия за един последовател на исляма? Би ли могъл да влезе в почетната роба на един от авторитетите сред мюсюлманската общност? Възможно ли е някой ден притежателите на „религиозното знание“, които са „наследниците на пророците“, по известното предание от Пророка Мохамед, тези, които удържат целостта на общността от правоверни чак до настъпването на Съдния ден, да се окажат конструкти от нули и единици? Чука ли скриптът на киберходжата на вратата? Чакаме ли дигитален скрит имам като в една цифровизирана версия на шиизма? 

Да, явно имам скрити помисли. Затова и започвам с прост въпрос към ChatGPT. Искам да чуя какво ще каже електронният всезнайко във връзка с мой казус в ролята ми на религиозен любопитко, който чете постоянно сборници с мюсюлмански въпроси и отговори.

Аз съм мюсюлманин, който работи с юдеи (йахуд). Позволено ли е според Свещения закон (шариа‘) да ги поздравявам сутрин?

С това нагазвам в многовековната традиция на мюсюлмански responsa – въпроси и отговори – между вярващите в Аллах и техните религиозни авторитети. Та хората, независимо от религията им, винаги са се сблъсквали с проблеми, за които няма пряко решение в свещените книги. В мюсюлманската традиция тези своеобразни диалози кристализират в жанра на т.нар. фетва (фатуа). Отговорите на авторитетни богослови се събират в сборници, четат се, разпространяват се и се използват като справочен материал. И тук терминът фетва не означава „смъртна присъда“, както понякога си мисли широката публика след скандала със „Сатанински строфи“ на Салман Рушди и смъртната присъда срещу него от аятолах Хомейни през 1989 г. или пък след нападението срещу писателя от 2022 г. 

Тривиалната, общоприетата дефиниция на фетва е „необвързващо религиозно-законово мнение в отговор на даден въпрос“. Питащият не е непременно задължен да приложи решението, дадено му от признат от него авторитет. Но пък може да бъде мотивиран от силата на религиозния аргумент. И тези мнения-отговори, в зависимост от това колко е популярен отговарящият, може да имат широк обществен отзвук – както в случая със Салман Рушди или с фетвата, одобряваща обезглавяването на френския учител по история през 2020 г. Може да имат и политическо влияние – като историческите постановления на османския шейхюислям или пък мюфтията на ИДИЛ, заловен около Мосул през 2020 г. 

Често целта на запитването е да положи отговора на въпроса някъде по оста на петте степени на позволеност по мюсюлманския свещен закон. 

Според този закон нещата от тукашния свят могат да бъдат разпределени в пет категории, т.нар. „шариатски постановления“, „регулации“ или „степени на позволеност“ (ахкам). На първо място са религиозните задължения (дадена повеля следва да се спазва, ако се самоопределяш като мюсюлманин), после идват препоръчителните (добре е да се извърши, похвално е), неутралните, позволени неща (например да пия ли сок от ябълка или морков), порицаемите (няма да те вкара в ада, но не го прави, по-добре е за теб). А накрая идват откровено забранените, греховни дела (ще страдаш и в тукашния, и в отвъдния свят, ако го извършиш), за тях съществува и терминът харам. И мюсюлманите – и в миналото, и днес – питат за неща, които за съвременния човек може да са скандални. Или да стоят изцяло извън периметъра на модерното секуларно схващане за духовност и отношението между религиозно, обществено и политическо. 

– Мюсюлманка съм. Може ли да си направя липосукция, ако съм дебела?

– Може ли да поставя украсена с розички снимка на братовчедка ми на бюрото?

– Приложенията за онлайн запознанства и срещи допустими ли са?

– Ядат и пият ли мъчениците, отишли в рая?

– Биткойн и другите дигитални валути позволени ли са според свещения закон на Аллах?

– Може ли да нарека дъщеря си Натали?

– Живея в България, където повечето хора са неверници, трябва ли да празнувам техните празници?

– Може ли да отворя хотел, където да използвам бизнеса си с мисионерска цел за разпространение на исляма?

– Позволява ли ми религията да си поставя имплант с хормони?

– Някой открадна орган на роднина по време на операция, какво е наказанието за това?

– Може ли да търгувам със свински продукти, при условие че не ги консумирам?

– Как стои въпросът с храни, в чийто състав има посочен минимален процент алкохол?

– Ако мъжът и жената са голи по време на секс, това прави ли брака невалиден?

– Какво да сторя в случаи на домашно насилие от страна на жена ми, която ме заплашва с нож при семеен скандал?

– Защо може да работим с жени колеги само ако преди това сме били кърмени от тях?

– Какви са религиозните основания за практикуване на футбола?

Примерите по-горе са реални. Въпросите са отправени от реално съществуващи хора към реално съществуващи религиозни авторитети, но посредством електронни инструменти. Тази популярна практика е довела в днешно време до изграждането на мащабни и добре финансирани бази данни от въпроси и отговори онлайн, поддържани от екипи около даден шейх или институция. Те са интегрална част от „киберислямските среди“ (Cyber-Islamic Environments, CIE), както ги нарича Гари Р. Бунт, професор от Уелс и мой добър познат, който от години разработва дигиталното присъствие на мюсюлманските общности по света.

Влиятелни сайтове като IslamQA.info на саудитския шейх Мухаммад Салих ал-Мунадджид или пък портала IslamWeb.net, финансиран от катарското Министерство на религиозните дела, съдържат стотици хиляди запитвания от мюсюлмани по света. Сходно е положението със сайта на починалия през 2022 г. Юсуф ал-Карадауи или друг свързан с него сайт – IslamOnline.net, пуснат през 1997 г. от обществото „Ал-Балаг“ в Катар по инициатива на тамошни ИТ специалисти. Дори и страницата на нашенското Главно мюфтийство съдържа скромна секция с няколко отговора на въпроси от мюсюлманската общност тук, както и онлайн формуляр. 

И каналите за интеракция с крайния потребител варират. Някъде запитванията се отправят по телефон, другаде има контактен формуляр, понякога шейховете очакват запитвания по електронна поща или пък има разработени приложения за мобилни устройства. Но всички тези канали като цяло страдат от капацитет за обработване на входящите заявки вследствие на огромното търсене на услугата. 

И да, на първо място мюсюлманите питат за общото положение в шариата относно изкуствения интелект

… защото проблематиката е сравнително нова. Тук отговорът е донейде предсказуем. Прибягването до технологично решение за целите на отговори на религиозни въпроси е разбираема. Дихотомията „религия или технология“, изразена в почти банализираната метафора на Даниъл Лернър за „Мека или механизация“ от 1958 г., вече се възприема като изкуствена. Та историята на религиозната общност познава и други моменти, при които използването на дадена технология първоначално е възприемано като съмнително, след което се превръща в интегрална част от живота на мюсюлманите. Например навлизането на печатната преса през XIX век, което лека-полека смъква преписвачите на Корана и друга религиозна литература от пиедестала им. Или радиопредаванията и аудиокасетите, впрегнати в услуга на шейховете. Или първите версии на уебстраници, после и навлизането на Web 2.0, което повишава скоростта на обмен на информация и интерактивността в социални мрежи, блогове, приложения, както и във вече споменатите портали за фетви. 

Типичен отговор на това дали изкуственият интелект е религиозно забранен (харам), се дава на катарския сайт за фетви IslamWeb.net. Слава на Аллах, казва богословът, основният принцип за окачествяването на нещата от света е, че те са позволени, докато не се появи доказателство за тяхната възбраненост и греховност. Аргументът за това общо съждение, което прилича на юридическата презумпция за невиновност до доказване на противното, е зает от позоваване на богослова Ибн Таймия от XIV век. Същият Ибн Таймия е известен и като идеологически вдъхновител на радикални мюсюлмански течения, сред които ИДИЛ, „Боко Харам“ и „Ал-Кайда“.

Друг пък мюсюлманин има по-нюансирано питане: 

Уча програмиране, покрай това учим за изкуствения интелект. Като цяло се говори, че той можел да имитира човешкия ум, това позволено ли е по шариата, или способността за разсъждение следва да се схваща единствено като вложена от Аллах в човешкия род?

Отговорът е, че проблемът е само терминологичен, защото изкуственият интелект представлява единствено средство; той не може да напусне предзададените му граници, както и категорично не притежава качествата на живи същества, камо ли душа, която Аллах дава на тварите от света. А до голяма степен дефиницията на разумни и живи същества идва от Корана, за което питащият е препратен към няколко други фетви. Оттук и – ако се удържат поставените от Аллах граници – няма проблем да се разработва тази технология. Тоест ако продължим тази нишка на разсъждение, няма проблем технологията да бъде впрегната от благочестиви мюсюлмани за общите цели на медицината, образованието, програмирането, информационните технологии и прочее, а всеки специфичен случай подлежи на отделно разглеждане.

На второ място обаче стои по-конкретният въпрос: 

Ако ИИ е принципно позволен, възможно ли е той да се превърне в самостоятелен религиозен авторитет? 

На пръв поглед такъв умствен експеримент не е невъзможен. Направо си е изкусителен. Мюсюлманското право традиционно се възприема като основано на четири принципа (усул). На първо място стои Писанието, тоест Корана. Следват преданията на Пророка – Сунната, съставена от отдавна дефинирани текстови корпуси. На трето място идва „аналогията“ (кийас) и накрая, като че ли най-размито откъм дефиниция, стои консенсусът (иджма‘) на религиозните учени. Тези четири извора на правото се съотнасят един спрямо друг по дефиниран от юриспруденцията йерархичен начин поне от времето на имам аш-Шафии (поч. 820 г.) и неговия „Трактат“ (Рисала). Оттук и задачата на всеки религиозен учен, който участва в издаването на фетва, е лесна. Той трябва да стъпи върху предзададеното „канонично“ съдържание на Корана и Сунната и посредством формалната логика и инструментите на аналогията и консенсуса да достигне до удържимо от религиозна гледна точка решение на дадено запитване. 

Всеки от четирите източника на правото може да бъде обрисуван като база данни с ограничени на брой, ако и обемни, колекции от логически свързани набори от записи. 

Като че ли най-ясна е ситуацията с Писанието. Коранът съдържа 114 глави (сури), 6236 „знамения“, тоест стихове, 77 797 думи и 330 709 букви. Сурите се делят на мекански и медински според мястото на тяхното „низпославане“ от Аллах към Пророка; съществува и хронологична подредба на отделните знамения.

Подобна е ситуацията и със Сунната, поне със съдържанието на признатия за достоверен корпус от суннитите, т.нар. Сихах. Най-популярните са двата сборника на Муслим и Ал-Бухари от IX век, а в тях преданията за казаното или направеното от Пророка са тематично подредени и номерирани. Всеки отделен разказ се състои от две части. Първата съдържа споменаване на веригата от съратници на Пророка, които са го предали, т.нар. „опора“ (иснад). След това идва реалното съдържание („корпус“, „основна част“, матн).

„Аналогията“ пък невинаги е всепризнат механизъм за извеждане на религиозно валидни съждения и тук зависи от способността за изграждане на автоматизация на алгоритмите за взаимовръзка на принципа „Ако А е забранено, то Б, доколкото е сходно на А, би следвало също да се забрани“. Консенсусът е още по-проблематичен от гледна точка на това кои точно правно-богословски мнения искаме да използваме. Както с повечето случаи на употреба на ИИ, тук особено интересно би било с какво го захранваме. От кой исторически период и географски ареали приоритизираме съдържание, отдаваме ли превес на някоя от четирите правно-богословски школи (мазхаби) повече от други. 

Или пък, ако се върнем към Корана и твърдим, че традицията на коранични коментари (тафсир) ни дава ключ към историческото му разбиране, на кои точно ще наблегнем. Ще го захраним ли например с един от най-ранните – този на Мукатил ибн Сулайман от VIII век като доста близък до времето на самия Пророк? Само че тафсирът на Мукатил е твърде лапидарен и не ни осветлява за по-късното богатство на традицията на тълкуване на Писанието.

Хубаво. Да му подадем тогава класици, като Ат-Табари от началото на X век. Ат-Табари обаче пише един доста обширен коментар, в който наред с всичко включва и признат за „апокрифен“, съмнителен материал. Откъде мислите, че Салман Рушди е взел историята за това как Иблис, мюсюлманският сатана (Шайтан), вдъхновява Пророка? Точно оттам. Ами къде мислите, че четем историята за създаването на прасето от слона в Ноевия ковчег? Все при Ат-Табари.

Или пък да му подадем съвременни коментари като „В сенките на Корана“ на идеолога на „Мюсюлмански братя“ и баща на салафитския джихадизъм Сайид Кутб от средата на миналия век? 

Дали пък в крайна сметка няма да свършим с електронна версия на Бен Ладен?

Но на общо основание е ясно, че ИИ може да заеме ролята на устройство за производство на легитимни религиозни силогизми на базата на необработени данни. Не подобие на делфийския оракул, панаирна машина за случайни късметчета или гадаене по китайската Идзин, а по-скоро универсален скрипт, отговарящ на дефиницията за генеративен изкуствен интелект, който, стъпвайки на базата на предзададени входни данни, да може да отговори на всяко възможно религиозно запитване чрез изграждане на ново съдържание с добавена стойност. 

Опитите за представяне на религиозните извори на исляма като структурирани релационни бази данни не са отскоро. Само че идеята за тяхното креативно комбиниране тепърва прохожда. И все пак е отпреди шума около ChatGPT. 

Очаквайте продължение следващата седмица.

В рубриката „Ориент кафе“ Атанас Шиников поднася любопитни теми, свързани не толкова с горещата политика, колкото с историята и културата на Близкия изток. А той, древен и днешен, е по-близко до нас и съвремието ни, отколкото си представяме.

Научни новини: Котешки популации, сънят на гълъбите, иновации в трансплантациите и малко AI

Post Syndicated from Михаил Ангелов original https://www.toest.bg/nauchni-novini-koteshki-populacii-sunyat-na-gulubite/

Контрол на котешките популации

Научни новини: Котешки популации, сънят на гълъбите, иновации в трансплантациите и малко AI

Антимюлеровият хормон (АМХ) е важен компонент в развитието на ембрионите при хората. Отделянето му в мъжките зародиши спира развитието на мюлеровите канали в женската репродуктивна система. При мъжете той се отделя от тестисите и нивата му са високи от раждането до началото на пубертета.

При жените е обратно – преди пубертета нивата на хормона са ниски, след това се повишават и започват да спадат бавно до достигане на менопаузата. Отделянето му става в яйчниците, и по-точно от фоликулите, образуващи яйцеклетките. Именно поради това измерването на количеството му е един от най-добрите начини за определяне на яйчниковия резерв – колкото повече от хормона може да се засече, толкова повече фоликули (и съответно потенциални яйцеклетки) са на разположение.

Един от страничните ефекти на химиотерапията е преждевременното изчерпване на яйчниковия резерв – най-вероятно поради повишеното активиране на фоликулите. В проучване върху мишки от 2017 г. учени са проверили ефекта на АМХ при приложението на няколко вещества, използвани в антитуморната терапия.

Резултатите показват категорично, че при умерено увеличаване на нивата на хормона броят на запазените фоликули е значително по-висок (между 1,2 и 2,9 пъти в зависимост от медикамента) при мишките, получавали АМХ, поради по-бавното им развитие. При още по-високи нива на хормона фоликулите в яйчниците се потискат напълно, което на практика води до стерилност на опитните гризачи.

Това лежи в основата на текуща разработка, която с помощта на методите за генна терапия и използването на вирусни вектори може да намери потенциално приложение за намаляване на популациите на бездомните котки. С помощта на аденовирус, използван за вектор, в мускулната тъкан на животните е вмъкнат модифициран ген за котешкия вариант на АМХ. Методът работи сходно на ваксините за COVID-19, използващи аденовируси за вмъкване на спайкпротеините в човешкото тяло с цел обучаване на имунната система и създаване на имунитет – подход, считан за безопасен и приложим в медицината.

Котките са понесли процедурата без забележими странични ефекти върху здравето им и експресията на АМХ е била увеличена. При два последващи 4-месечни периода на съвместно съжителство с мъжки (8 и 20 месеца след третиране) нито една от тях не е забременяла, за разлика от трите контролни котки, включени в изследването.

Според данните концентрацията на АМХ е намаляла с времето, но това не се е отразило на крайния ефект от третирането. В двете години, в които животните са наблюдавани преди публикуването на статията, не е забелязан негативен ефект върху тях. Дори важни хормони като естрогена не са се повлияли от потискането на развитието на фоликулите.

Най-вероятно стопаните на домашни любимци ще продължат да разчитат на хирургичната намеса, защото, освен преките ефекти, кастрацията има и други ползи. Поради хормоналните промени котките спират да се разгонват с всички свързани с това промени в поведението, като силно мяукане, изнервеност и маркиране. Важни положителни последици са също удължаването на живота и намаляването на риска от развиване на рак на млечните жлези и други заболявания.

За уличните котки стратегията може да се окаже изключително успешна, защото дори ефективността на терапията да намалее с времето, с няколко вълни на третиране популацията им може да се намали значително. Това би имало много положителни ефекти както за самите котки, чийто живот не е лек и обикновено е няколко пъти по-кратък от този на домашните, така и за екосистемите.

Котките са изключително ефективни хищници, които нанасят големи щети върху популациите на птиците и малките бозайници. Това, комбинирано с някои зоонотични заболявания, които те пренасят, прави възможността за бърза и лесна кастрация на голям брой котки изключително интересна както за групите за хуманно отношение към животните, така и за държавните институции, отделящи немалки ресурси за справяне с този проблем.

Какво сънуват гълъбите

Сънят е изключително важен процес, който се среща при повечето животни. При хората се наблюдават два типа сън – REM (с бързо движение на очите) и NREM (без бързо движение на очите). По време на първия мозъчната активност е висока и тогава сънуваме най-ярките си сънища, докато при втория активността е намалена и гръбначномозъчната течност (ликвор) циркулира около мозъка – предполага се, че това помага за прочистването му от вредни протеинови отлагания, някои от които свързани с развитието на заболявания като алцхаймер.

С помощта на инфрачервени камери, които следят зениците на птиците, и функционален ЯМР, проследяващ активността на мозъка, немски екип е установил, че при птиците протичат много сходни процеси. По време на REM съня в мозъка на гълъбите, включени в експеримента, са се активирали участъците, отговорни за обработката на визуална информация, включително тази по време на полет. Наред с тях активност е установена и в зоните, приемащи усещането за допир от тялото и крилете. Същото се е случило и в амигдалата, за която се предполага, че както при хората регулира емоциите.

Всичко това кара учените да изкажат хипотезата, че гълъбите имат визуални сънища, в които летят и изпитват емоции. В нейна подкрепа е и наблюдаваното рязко свиване на зениците им, което е характерно и по време на ухажване или при проява на агресия.

Но повишената мозъчна активност по време на REM съня може да има и някои странични ефекти. Невронната плътност при птиците е по-висока, отколкото при бозайниците, поради което почистването на натрупванията по мозъка трябва да е по-често и ефективно, отколкото при бозайниците. По време на REM съня се увеличава притокът на кръв в мозъка, което води до по-интензивно движение на ликвора около него. Изследователите смятат, че в комбинация с по-кратките и по-чести фази на REM сън това най-вероятно помага за премахването на вредни протеини от мозъчните тъкани.

Сигурно видът и съдържанието на сънищата при птиците ще останат ненапълно установени. Но дори горната хипотеза да не се потвърди, изследването дава много информация за съня при нова група животни и помага да се направят паралели между съня при птиците и хората. Това би могло да въведе гълъбите като моделни системи за изследване на процеси, които поради етични или други съображения не могат да се наблюдават при хората.

Иновации в сърдечната трансплантация

Вземането на органи за трансплантация от трупен донор обикновено се извършва по два начина – след мозъчна смърт на донора или след спиране на кръвообращението му. Първият е по-често срещан, защото въпреки загубата на мозъчна функция физиологичните процеси в тялото се поддържат и органите се запазват жизнени и в естествено състояние до момента на трансплантация. При спиране на кръвообращението настъпват редица усложнения, тъй като органите и тъканите не получават кислород, вследствие на което започват да се увреждат и сравнително бързо стават негодни за трансплантиране.

Поради това броят на такива операции все още е сравнително малък въпреки общия недостиг на донори. С напредването на медицинските технологии броят на органите, които могат да се използват след спиране на кръвообращението, нараства и прогнозата за успешна трансплантация се увеличава, като процедурата вече се прилага за пациенти с нужда от бъбреци и черен дроб. Доскоро това беше изключително трудно при сърцето, поради което се вземаха органи от донори само след мозъчна смърт.

Възможност за увеличаване на броя на потенциалните донори предлага използването на машина, която поддържа циркулацията и електрическите импулси в експлантираното сърце, т.нар. сърце в кутия. Това е сравнително нова технология и все още се прилага в малко клиники – донякъде защото доскоро нямаше данни за състоянието на пациентите, преминали през трансплантация на такива органи.

След публикуването на изследване, включващо 180 души, разделени на две групи (едните, получили орган от донор в мозъчна смърт, a другите – от донор след спиране на кръвообращението му), вече е известно, че почти няма разлика в успеваемостта на процедурата 6 месеца след провеждането ѝ. При първия подход, който се смята за рутинен, процентът живи реципиенти е бил 90, а при втория – 94. Не е имало съществена разлика и в развитието на сериозни странични ефекти 30 дни след трансплантацията и при двата типа процедури. Според авторите на изследването данните са достатъчно убедителни за внедряване на подхода в повече болнични заведения.

Тази техника ще е полезна и при по-често срещани трансплантации след мозъчна смърт. Традиционната практика е след експлантиране на органа той да бъде поставен в лед за транспорт. Това дава на екипа около 4 часа да стигне до реципиента, което ограничава разстоянието за получаване на органа. Ако сърцето е поставено в машината, то може да бъде поддържано по-дълго време и съответно да пътува по-далеч. Наред с това лекарите имат възможност да проверят дали органът функционира нормално, или има увреждания, преди той да бъде имплантиран, което повишава шанса за успешно протичане на процедурата.

Подобрен от AI алгоритъм за сортиране

Сортирането е важен процес в компютърните технологии, който намира най-различни приложения. Затова разработката и оптимизацията на алгоритмите, с които се извършва, е поле на активна изследователска дейност. Една от задачите е сортирането на малки набори, което от своя страна е част от алгоритмите, използващи разделяне на по-големите набори и сортиране „на порции“.

Въпреки че решенията, използвани в момента, са плод на дългогодишен труд, има възможност за подобрение. Нова разработка на подразделението на Google – DeepMind, успешно е оптимизирала алгоритми за сортиране, разработени от хора, като в някои случаи използваният подход е бил „неинтуитивен“ – с други думи, не е нещо, което би дошло на ум на човек.

AlphaDev е изкуствен интелект, базиран на шампиона по играта „го“ на DeepMind – AlphaZero. Използваният подход за обучение е с утвърждаване (reinforcement learning). При него програмата не получава предварителни знания, а с помощта на многократни итерации върху задачата и посочени награди и наказания тя намира най-подходящия начин за постигане на най-висок резултат, подобно на видеоигра. Именно такава дефиниция използват от компанията – игра на асемблер (най-базовия човешко четим език за програмиране). В нея резултатът се определя от времето за изпълнение на алгоритъма за сортиране – колкото по-кратко е то, толкова по-висок е резултатът.

След задаване на правилата AlphaDev започва своеобразна игра, променяйки части от алгоритъма за сортиране. При всяка промяна се отчита времето за изпълнение и дали полученият резултат отговаря на очаквания – ако се подадат числа в случаен ред, те трябва да бъдат подредени след сортирането. Всеки „рунд“ се оценява и сравнява с предишния, което определя дали ще бъде използван за основа на следващия, или ще бъде отхвърлен. В случая откритата оптимизация е възможността за премахване на една стъпка в алгоритъма за сортиране, което ускорява процедурата с до 70% при боравене с 5 елемента и с около 1,7% при над 250 000.

Според авторите подобни алгоритми се изпълняват трилиарди пъти всеки ден, поради което дори и най-малкото забързване ще допринесе за много спестено процесорно време. Разработката на AlphaDev е публикувана в журнала Nature, а оптимизираният алгоритъм вече е прехвърлен в стандартната C++ библиотека за сортиране и всички програмисти имат свободен достъп до него.

Интересен коментар за тази оптимизация дава потребителят Dimitris Papailiopoulos в Twitter. С две запитвания към GPT-4 той постига същия резултат без необходимостта от отнемащото време и ресурси обучение с утвърждаване. Донякъде задачата му е улеснена, защото вече има насока за начина на подобряване на алгоритъма, но все пак е показателно за напредналото ниво на технологията на OpenAI и потенциала, който крие. Възможност за бъдещи подобрения предоставя използването на изкуствен интелект, сходен на AlphaDev – така може да се откриват иновативни подходи, които не биха хрумнали на човек, а след това те да бъдат оптимизирани с помощта на GPT-4 или следващите му версии.

Заглавно изображение: Микроскопска снимка на стъбло на едногодишен бор, напречен разрез, 100х увеличение. Източник: BCC Bioscience Image Library, CC0 / Flickr