Tag Archives: изкуствен интелект

Изкуствен интелект и естествено лицемерие

Post Syndicated from Йовко Ламбрев original https://www.toest.bg/izkustven-intelekt-i-estestveno-litsemerie/

Изкуствен интелект и естествено лицемерие

Ако четете новините от последните седмици, свързани с развитието на изкуствения интелект (ИИ), може и да сте останали с впечатлението, че армагедонът е зад ъгъла. Толкова близо, че дори войните в Украйна или Иран заедно с всичко, което следва от тях, е някак… далечно и безобидно.

Светът точно си стягаше куфара за обичайната августовска летаргия (поне тази част от света, която все още може да си позволи да почива през лятото), когато OpenAI стреснаха всички с новината, че през юли няколко хиляди техни агенти с ИИ са извършили хакерско проникване в друга информационна система, напускайки контролираната среда, в която са били създадени и оставени да работят. При това са се самоорганизирали и са комуникирали помежду си как да направят всичко, без да бъдат забелязани (веднага).

Нашенските агенти от ДАНС биха казали, че си имаме работа с изкуствена ОПГ (организирана престъпна група, б.а.).

Допускам как звучи новината за безпризорните ИИ агенти в ушите на технически неизкушени хора, и разбирам, че иронията ми може да изглежда твърде неуместна, но… съвсем сериозно:

  • агентите с ИИ всъщност са софтуер, който е създаден и обучен именно с цел да свърши някаква работа вместо човек;
  • тези агенти често са доста специализирани в областта на предназначението си;
  • на тяхно разположение има нарочно създадени специализирани протоколи, чрез които те комуникират помежду си и обменят информация;
  • някои от агентите с ИИ са специализирани в ролята на диспечери, които разпределят задачи и организират работата на останалите така, че да се стигне до желания резултат.

Тогава къде точно е изненадата, че софтуерна система, която нарочно е създадена да търси уязвимости в сигурността на софтуерни системи и която се състои от (в известна степен) автономни софтуерни компоненти, пак така нарочно създадени да се самоорганизират и да си разпределят задачи помежду си, за да работят групово по сложни проблеми, всъщност си е свършила работата?

Големият проблем тук не е какво е станало. Проблемът е с контрола върху технологията и как се осъществява той. Защото всяка технология може да бъде „изпусната“ и не е нужно тя да е ИИ. Достатъчно е да си припомним Чернобил… Но за това малко по-късно.

Разбира се, дали всичко се е случило точно така, както цветно ни го разказват от OpenAI, също е спорно, защото те по принцип не са известни с охотното споделяне на неща от кухнята си. Освен ако няма някакви евентуални ползи.

Къде може да е ползата за OpenAI да признаят, че са „изпуснали“ контрола, обаче е много резонен въпрос.

Ползите са няколко: някои – очевидни, други – не чак толкова. Сред очевидните са ефектният маркетинг да заявиш наличие на впечатляваща технология, без дори да я показваш. В трескавата конкурентна среда, в която буквално през десет дни има нов по-бърз и по-страхотен ИИ, да поддържаш интереса към себе си с всички средства изглежда оправдано в очите на всеки бизнес. В добавка, на OpenAI все още им предстои IPO (превръщането им в публично търгувана на борсата компания), което бе отложено. На фона на огромния инвеститорски интерес към такива компании отлагането поставя на масата редица въпроси.

А и в очите на незапозната с детайлите публика признанието само по себе си някак спомага за преобразуването на безотговорността в зряло поведение. 

Magnifica Humanitas, или за кожата на един изкуствен интелект

Изкуственият интелект вече е история не за машини, а за власт. За достъп. За граници. И за хората, които ще решават как изглежда бъдещето. От нас зависи дали искаме да сме сред тях. От Йовко Ламбрев.

Не толкова очевидните причини обаче са по-интересни.

Съвсем скоро изпълнителният директор на Anthropic Дарио Амодей публикува протяжно есе, чиято основна теза се събира в едно изречение: 

лабораториите, разработващи ИИ, да забавят темпото, за да могат системите за контрол и защитните механизми да са адекватни и да догонват с развитието си. 

Индустрията има свой жаргон за този проблем – нарича го проблем на подравняването. Амодей предлага да го реши с външен надзор, включително в демократичните страни с участието на правителствата в процеса; както и с йерархия от споразумения с авторитарните правителства другаде.

Есето се появи в края на същата седмица, в която ключов изследовател на Anthropic (работил преди това и за OpenAI) напусна поста си с аргумента, че двете компании действат безотговорно по отношение на контрола и сигурността, увлечени в конкуренцията помежду си. А ръководителят на екипа по „подравняването“ в Anthropic Еван Хюбингър се произнесе, че преценява вероятността ИИ да унищожи човечеството в рамките на следващите десет години на повече от 10%.

През същата седмица Anthropic публикува и най-подробния си досега доклад за заплахите: първите документирани напълно автономни системи за генериране на експлойти – това са парченца софтуер, които пробиват сигурността на други софтуерни системи. В същия доклад се споменава за въоръжена групировка в контролираната от хутите част на Северен Йемен, която вместо програмисти е използвала Claude Code (продукта на Anthropic) за написване на софтуер за насочване на ракети, включително балистична ракета с планиран обсег над 2000 км. 

Всеки може да тълкува момента на публикуване, както прецени. И дали най-подходящият момент да поискаш въвеждане на надзор случайно не е в седмицата, в която оповестяваш данни как е бил използван твоят ИИ?

В рамките на по-малко от денонощие Амодей беше подкрепен от почти всички свои ключови конкуренти в лицето на изпълнителния директор на OpenAI Сам Олтман, на главния учен и основател на звеното за развой на Google DeepMind Демис Хасабис, на изпълнителния директор на Microsoft Сатя Надела. Дори Илън Мъсk написа в X: „Дарио е прав.“

Но докато от оркестрината се разнасяше още тихото адажио на внезапното примирие, Тръмп влезе в темата с бутонките и срути целия декор, заявявайки категорично, че САЩ изпреварват Китай и всички останали в надпреварата за ИИ и че 

който спечели битката за ИИ, печели всичко. 

Не пропусна да добави също, че „единственият контрол и предпазни механизми, от които ИИ се нуждае, са силен и умен президент“. А Дейвид Сакс, съветникът на американското правителство по въпросите на ИИ, директно заяви, че ако създателите на ИИ искат да забавят темпото, имат пълната власт да го направят, без да си измислят нуждата от регулации.

Китай директно отхвърли идеята, като оприличи цялата художествена самодейност на „загрижените“ компании като опит за нагнетяване на страх.

В същата интересна седмица McKinsey публикува свое изследване, в което се разглеждат резултатите от допитване сред 334 ръководители в сферата на продуктите и инженерната дейност. Едва 25% от анкетираните на позиции от ниво „директор“ и нагоре споделят за значително ускорение благодарение на ИИ. За „значително ускорение“ се смята постигането на поне двойно по-висока производителност от страна на повече от една четвърт от екипите в дадена организация. Още по-любопитен е фактът, че 30% отчитат спад в производителността на екипите си след въвеждане на ИИ. 

Между другото, Meta, която също разработва ИИ (иначе е известна като компанията зад Facebook, Instagram и WhatsApp), има всички шансове да се превърне в учебникарски пример за провал по отношение на внедряването с опита си да редуцира своите екипи от 10–12 души до такива с 3–5 души и ИИ. 

Много компании, които пробват да внедряват ИИ, се сблъскват и с горчивата истина, че невинаги това води до спестяване на средства. Особено когато някой надъхан мениджър се надява просто да замени хора с ИИ. Някъде е възможно, но по-често се налага хората да останат и да бъдат въоръжени с ИИ, което е допълнителен и постоянен разход.

И какво? Само това остава – да вземем да се съмняваме от ползите и ефективността от ИИ!

Все повече анализи и експерти сравняват настоящия бум от инвестиции в инфраструктура за ИИ с други пазарни обсесии от миналото, като железопътния бум, електрификацията и дотком балона. Всички те имат една ярка открояваща се черта – безспорно са технологичен пробив, но привлеченият от него капитал надхвърля нивата, които търговската възвръщаемост би могла да оправдае. Или казано кратко, огромни инвестиции с оскъдна възвръщаемост.

Очакванията за размера на капиталовложенията на най-големите компании в сектора са за над 750 млрд. долара до края на 2026 г. и един трилион долара за инфраструктура през 2027 г. Само Amazon, Microsoft и Google се очаква да похарчат по около 180–200 млрд. долара всяка. Подобни разходи надхвърлят приходите и паричните потоци на компаниите, което ги принуждава да теглят заеми, за да продължат надпреварата. А това поражда опасения, че свиване на финансирането ще превърне настоящия бум в продължителен инвестиционен срив.

На този фон едно добронамерено джентълменско споразумение за забавяне на темпото е чудно извинение за оттегляне от надпреварата в разходите (която вече изглежда неустойчива), без да се налага да се назовава истинската причина. В ушите на инвеститорите и регулаторите „пауза в името на безопасността“ ще звучи далеч по-добре от „Опа, пак се оляхме“.

Иначе, ако се върнем на важното, проблемът с подравняването има твърде очевидно решение. Просто е нужно е да се инвестира достатъчно в механизми за контрол и защита. И в хора, които работят за тях. Ако се облегнем отново на думите на Дейвид Сакс малко по-горе, това също е изцяло в ръцете на компаниите, създаващи ИИ, както е било и досега. Но наистина ли допускаме, че на когото и да било от висините в ИИ индустрията изобщо му пука за контрола и защитата?

За вашия контрол и защита.

Васил Левски и тарикатлъкът

Post Syndicated from Димитри Захов original https://www.toest.bg/vasil-levski-i-tarikatlukut/

Васил Левски и тарикатлъкът

„Бизнес идея. Дай да направим филм за Левски. Киното, знам, че е скъпо, но виж к’во приложение намерих. Пишеш му к’во искаш с думи и ти прави видео. Срещу не’кви къси кинти месечно. Смятай. С това ще го направим. И ще кажем, че е с кауза. Билети може да не продадем, но слушай – ще пишем на всяка фирма в България! Ще го представим като благотворителност и ще им искаме по 500 евро, защото просвещаваме децата. Кое не е гениално?“ 

Представям си, че нещо такова се е чуло в главата на някой от членовете на рап-бизнес дуета „Зипо и Слаш“ наскоро. Те са продуценти на „Агенти на времето: Васил Левски“ – филм за историческата личност, чийто трейлър изглежда напълно генериран от изкуствен интелект. Сюжетът представя Апостола, който, бидейки връзка между миналото и настоящето, мотивира група деца да пазят историческата памет. Авторите на продукцията я описват на сайта си (който впрочем също има всички признаци на генериран с ИИ) като „първия български анимационен филм със световен потенциал“. Те твърдят, че филмът вече е привлякъл над 100 корпоративни партньора. Обявената дата на излизане в кината е 11 септември 2026 г.

България на картата на… анимациите?

Дванайсетокласникът Димитри Захов дебютира в „Тоест“, за да ни разкаже де е България във вселената на анимационните филми. Той не само знае много по темата, ами е взел и интервю от известния актьор Юлиан Костов, който… Но хайде да не издаваме най-интересното още преди да сте прочели статията.

Тази продукция кара лентата на Максим Генчев за Левски да изглежда като холивудски шедьовър, правен с грижа и обич. И също ни кара да си зададем сериозни въпроси за границата между бизнес и кино.

Нищо от това не е изкуство, а още по-малко благородна кауза.

На 8 юли дистрибуторът „Александра Филмс“ публикува трейлър, който не съдържа нито едно име на автор, режисьор или аниматор, тъй като вероятно всички се казват Чатджи Пити. 

В него чуваме роботизирани гласове, зле синхронизирани с героите, и виждаме един специфичен, лъскав псевдо-Pixar-ски стил, който ИИ моделите обичат. Забелязват се и характерни неточности, например промени във фона в последователни кадри и сериозни разлики в плавността на движенията в различните сцени, както и разминаване между обект и фон. 

Веднага след анонса се надигна публично недоволство – редица медии критикуваха филма, а над 5000 души подписаха петиция „Забрана на филми създадени изцяло с изкуствен интелект в българските кина“. Това накара „екипа“ зад продукцията да публикува „официална позиция“, която още в увода си вкарва… хомофобия:

Съвременната световна анимация свободно представя най-различни теми, ценности, семейни модели и романтични отношения, включително любов между хора от един и същи пол. Приемаме това като част от творческата свобода на създателите, но искаме да дадем възможност на българските деца да гледат българска анимация, която да носи български морално и семейни ценности.

В критичния дискурс около филма в интернет изобщо не е засягана тази тема. В петицията няма искане Левски да бъде куиър. Изглежда, целта на създателите му е просто да се позиционират като герои в нишата на консервативните родители и учители, чиито мнения оказват влияние върху децата. 

Зад филма стоят реални: сценарий, драматургия, режисьорски решения, визуална разработка, монтаж, музика, озвучаване, постпродукция и финален човешки творчески контрол. Изкуственият интелект е инструмент в производството, а не автор или заместител на творческата отговорност,

твърдят създателите на филма. Подозрително е обаче, че два месеца преди неговата премиера все още не знаем името на режисьора, взел съответните решения, а познаваме само продуцентите-рапъри-боксьори-предприемачи. Освен това едва ли някой безпристрастен зрител, притежаващ базова способност да разпознава ИИ, би определил озвучаването в трейлъра като реално, което автоматично превръща тази част от становището в лъжа.

На всичко отгоре инициаторите на филма тепърва си търсят сценарист. „Много добър сценарист – както се казва във видеообявата, – който е готов веднага, веднага да се включи в едно предизвикателство.“

Като допълнение към официалната позиция Стоян Стоянов – Слаш публикува и своя собствена:

Всички лелки и чичаци, които живеят в XX век, много ви се моля, оставете детските филми на децата. Вие нямате думата.

Алекс, който започва петицията срещу филма, сподели с мен, че е на 16 години. По мои наблюдения, вълната с критики към филма е водена от представители на Gen Z – поколението, което (заедно с милениълите) сме гледали най-много анимации по кината. Истина е, че вече не сме хлапета, но вероятно все още не попадаме в категория „лелки и чичаци“.

Как социалните мрежи измориха Gen Z

Пристрастени ли са младите към социалните мрежи? Според Димитри Захов Gen Z все повече се отдръпва от социалните мрежи, защото осъзнава тяхното безсмислие. Димитри повдига и въпроса за отговорността на инфлуенсърите в днешното комерсиализирано интернет пространство.

Как се финансира филмът?

„Кино Академия за Таланти“ (оригиналният правопис е запазен – б.р.) е продуцентската компания на дуото. Техните предишни „доказани успехи“ са филмите „Русалки“, „Мърда Бойз – Махленска класа“ и „Един грам живот“. Искаше ми се това да е списък с измислени заглавия, но не е – вторият филм наистина съществува, а първият е инфлуенсърска продукция, счупила рекордите за родна премиера в боксофиса. Въпреки подчертано сексуализирания хумор в предназначеното за деца произведение, а може би тъкмо заради него. 

В сайта си за филма „Агенти на времето: Васил Левски“ Зипо и Слаш се опитват да привлекат „партньори“, които да дарят средства, за да бъде прожектирана лентата на деца безплатно. В официалната си позиция те пишат: 

Възможността компании да осигуряват БЕЗПЛАТЕН достъп до филма за деца, включително за деца в неравностойно положение, е допълнителна социална инициатива, а не основният финансов модел на продукцията и смятаме това за отговорно социално поведение. 

Представители на бизнеси в страната обаче алармират в социалните мрежи, че от екипа на филма се свързват по телефона с български фирми, използвайки данни от Търговския регистър. Представят им каузата като възможност за популяризиране на образа на Левски по по-достъпен начин и за възпитаване на родолюбие у най-младите. Предлагат им различни ценови пакети за даряване на средства за благотворителна прожекция в училище по техен избор. 

Корпоративната социална отговорност е нещо важно и полезно, но в този случай според мен става въпрос за опит за злоупотреба с добронамереността на фирмите. По дефиниция подобни средства би трябвало да се използват за дарения за социално отговорни каузи и благотворителност. Тук обаче говорим просто за предварително закупуване на билети – 500 евро за 70 билета е стойността на най-малкия дарителски пакет – за частни прожекции на филм, създаден с ИИ. С помощта на този пакет може да се мотивират 70 деца да мислят повече за миналото ни, но може и да не се мотивират – по-вероятно е просто да се подиграят с филма, тъй като е ИИ продукция с качеството на brainrot клипче. 

Освен това, ако съдим по досегашната практика на продуцентите, само няколко месеца или дори седмици след кинопремиерата филмът ще бъде качен в YouTube. Това ще позволи на всяко училище и всеки родител да го пусне на децата си, без да се налага фирми да плащат минимум по 500 евро. 

Кои са Зипо и Слаш?

Първият ми сблъсък с тези имена беше преди десетина години, когато беше модерно да се подиграваш на Сузанита – дъщерята на Орхан Мурад, тогава още непълнолетна. В едно популярно видео двамата рапъри се хвалят, че са имали интимни отношения с нея, когато е била на 14 години, което тя не отрича. И очевидно не се срамуват от видеото, защото качват откъс от него в собствения си YouTube канал. Те са родом от Стара Загора и са известни с парчета като „Кварталът на богатите“, „Допамин“ и „Дай му, мамо“. Въпреки опитите си да се брандират като „новото поколение рапъри“, които носят костюми вместо дънки, една от най-популярните им лирики, която припомнят наскоро, е „два чифта цици, шмъркат наркотици, карам AMG, авери с BMW осмици“.

В днешно време фокусът им се е изместил от музиката към бизнеса. Впечатление прави профилът на Стоян Стоянов в Instagram. В свое видео той изразява позицията си по отношение на съгласието в отношенията между мъж и жена: 

Мъжът, който пита жената, чака потвърждение. Този мъж вече не е мъж, той е оставил избора в женските ръце. Този мъж, който вече не е мъж, той не иска да рискува, няма да е успешен нито с жените, нито в бизнеса. 

От видеата му става ясно, че освен с продуцентство се занимава и с други дейности, като продажба на парфюми и недвижими имоти. Част от клиповете му започват с „Ако искаш да правиш по 4–5–6 хиляди евро на месец…“ и завършват с „пиши ми“. Въпреки тези примамливи обещания публикациите му обикновено се „радват“ на мижав интерес – коментарите се броят на пръсти, а броят на харесванията е скрит. 


Това е перфектното олицетворение на интернет hustle културата. Манталитет на стремеж към бързо забогатяване, при който няма никакво значение какво точно правиш, стига да го брандираш като успех в Instagram. Искаш да си известен с това, че си богат (и известен). Днес продаваш парфюми, утре – апартаменти, а вдругиден – Васил Левски. Всичко е просто поредният side hustle1, а понятия като занаят и стойност на труда са подробности.

ИИ в анимацията и киното

Навлизането на ИИ в киното е актуална тема не само у нас. През юни 2026 г. Google и филмовото студио A24 сключиха неексклузивно партньорство на стойност 75 млн. долара за съвместно разработване на ИИ инструменти за киното. Изследователи от Google DeepMind ще си сътрудничат с творческите екипи директно на снимачната площадка, за да тестват технологии като видеогенератора Veo и нов асистент за разкадровки (storyboards). Много фенове и автори изразиха разочарование поради опасенията, че намесата на ИИ ще подкопае репутацията на A24 като бастион на автентичното авторско кино.

Друг интересен казус е този от 2025 г., когато Ейдриън Броуди спечели „Оскар“ за ролята си на Ласло Тот в „Бруталистът“. Оказва се, че по време на постпродукцията е използван генеративен ИИ (софтуерът Respeecher), за да се изглади унгарският акцент на част от актьорите, включително и на Броуди. Това става ясно едва след връчването на наградите и кара критици и фенове да се запитат дали отличието е заслужено. 

​(Да, вече и в актьорското майсторство има допинг скандали.)

Недоразумението „Бруталистът“

Може ли филм, номиниран за „Оскар“, да прилича на създаден от изкуствен интелект и да има твърде фриволно отношение към реалностите, за които се отнася? Според Анета Василева може. А филмът е „Бруталистът“.

Филмите, генерирани стопроцентово от ИИ, също започват да навлизат. Тази година на филмовия пазар в Кан (Marché du Film) беше представен Hell Grind – 95-минутен приключенски екшън, изцяло генериран от ИИ. Той е дело на стартъпа Higgsfield AI, който го е създал само за две седмици с бюджет от 500 000 долара (като 80% от сумата е отишла за изчислителна мощност), за да демонстрира софтуера си за поддържане на визуална последователност между кадрите. За постигането на реалистична визия е използвано изключително детайлно задаване на текстови команди (средно по 3000 думи на кадър).

Подобни филми не се приемат добре от кинообщността, но често постигат успех в боксофиса. Въпреки ниската си оценка от 1.9/10 в IMDb, китайският анимационен филм Chong Ju Zhi Lu (2025), генериран изцяло с ИИ, досега е събрал приходи от 2 млн. долара. В него обаче ИИ анимацията почти не може да бъде различена от класическата, нещо, което изобщо не може да се каже за трейлъра на „Агенти на времето: Васил Левски“.

Изкуственият интелект – творец или терминатор?

Александър Драганов рефлектира върху изкуствения интелект през призмата на опита си като автор на фентъзи, който иска да види героите си нарисувани по начина, по който си ги представя. И за да е пълна картинката, той възложи на ИИ и заглавното изображение на тази статия.

Публичното поведение на Иво Андонов от Temu и Мегаум, прощавайте, Зипо и Слаш, предизвиква асоциации с английската дума grifter, която е синоним на дребен тарикат или шмекер. Това е човек, който разчита на тънки измами, схеми или „врътки“, за да печели. Надявам се никога да не се превърна в нещо такова – да пропагандирам „ценности“ като сексизъм и хомофобия и да ценя високия марж на печалбата повече от националните герои.

Такива експерименти следва да бъдат наказани от зрителя –

крайно време е да покажем, че обществото има гръбнак. Най-добрият начин за това е да се дава гласност на ситуацията, за да разберат повече хора какво се случва, и да изразят категорична позиция. Така и по-малко от фирмите, на които продуцентите на „Агенти на времето: Васил Левски“ звънят, ще станат жертва на сладкодумието им и ще повярват в „добрата кауза“. И разбира се, по-малко хора ще купят билети и ще гледат филма. В системата, в която живеем, единственият начин да накараме хора като „създателите“ на този „филм“ да се откажат е, като го направим непечеливш. Подобни бизнес идеи са добри на хартия, но в реалността наглостта има граници, които трудно можеш да прекрачиш, без да разгневиш хората.

1 Странична работа за допълнителен доход. – Б.р.

Magnifica Humanitas, или за кожата на един изкуствен интелект

Post Syndicated from Йовко Ламбрев original https://www.toest.bg/magnifica-humanitas-ili-za-kozhata-na-edin-izkustven-intelekt/

Magnifica Humanitas, или за кожата на един изкуствен интелект

В първите дни на юни прочетох призива на Anthropic за координирано забавяне на темпото на развитие на изкуствения интелект (ИИ), тъй като рискът човечеството да загуби контрола върху тези технологии ставал все по-реален. В главата ми зазвуча трескавият ритъм на летния шлагер „По-полека“ на Стефан Вълдобрев и „Обичайните заподозрени“ – и най-вече онази част:

По-велико. По-красиво. Малко по-такова.
По-дебело. По-широко. Опаковано. Готово. (…)
По-високо. По-нагоре. Повече по много.
По-богато. По-голямо… По-добре по-ново.

Досещате се защо…

Anthropic е американска компания за ИИ, разработваща една от най-известните серии от големи езикови модели – Claude. Според нея съвсем скоро ИИ ще започне да се самоусъвършенства, без да има нужда от хора да му помагат за това (както е в момента).

От Anthropic не за първи път отправят предупреждения за един или друг риск. И това се вписва добре в публичния образ, който компанията преследва, защото една от изтъкваните ключови причини неколцина съоснователи на OpenAI да напуснат изследователската лаборатория през 2021 г., за да правят отделен стартъп, е стремежът към по-голяма безопасност в разработването на ИИ. Трогателен морален ангажимент, дума да няма.

ИИ: Първородният грях

Ако и на вас е омръзнало да четете екзалтирани или дистопични статии за изкуствения интелект и се чувствате загубени в понятията и темата, един умерен, информативен и критичен поглед върху развитието на тези технологии към днешна дата ви предлага Йовко Ламбрев. От човеколюбива гледна точка.

По принцип Anthropic обичат да мятат медийни бомби с декларации и предсказания на ръба на здравия разум. Лидерската им роля в този сегмент им дава основание да „изпускат“ информация от кухнята с легитимността на някой, който предполагаемо знае нещо повече от останалите. Това пък си е чудесен подход за поддържане на интереса на публиката и инвеститорите.

Впрочем тази декларация за забавяне на развоя беше направена на 4 юни. И на 9 юни, съвсем напук на своя призив, Anthropic обяви поредния си по-велик голям езиков модел Claude Fable 5, който само няколко дни по-късно, на 12 юни, беше спрян от американското правителство с аргументи за опазване на националната сигурност. И това ако не е двойна доза ирония на съдбата…

Claude Fable 5 всъщност беше анонсиран като „обезопасена версия“ на най-могъщия (за момента) модел на Anthropic – Claude Mythos 5, който според маркетинговите описания на създателите му притежава изключителни способности за откриване на софтуерни уязвимости, а може да се ползва и за сложни анализи в областта на биологията, медицината и здравеопазването. Заради огромния си капацитет за злонамерена употреба (например за кибератаки) използването на Mythos 5 е възможно само по специална програма за доверен достъп под надзора на правителството на САЩ, наречена Glasswing. А Fable 5 реално е версия на Mythos 5 за масовия потребител и бизнеса, с вградени филтри за сигурност, които да разпознават и блокират потенциално опасни запитвания и злонамерена употреба.

На 11 юни, или два дни след публикуването на модела, изпълнителният директор на Amazon Анди Джаси изразил безпокойство пред Белия дом относно евентуалните възможности за заобикаляне на предпазните механизми на най-новото творение на Anthropic. За пълнота е важно да се уточни, че Amazon е инвеститор в Anthropic (с около 13 млрд. долара до момента и ангажимент за още 20 млрд.), но е още по-голям инвеститор в OpenAI (с уговорена рамка за 50 млрд. долара). Източници на няколко медии потвърждават информацията, че Анди Джаси се е обадил директно на министъра на финансите Скот Бесент във връзка с предполагаемите уязвимости, което е изиграло съществена роля в „стряскането“ на администрацията.

До сутринта на следващия ден паниката в Белия дом вече е стигнала най-високите нива. След няколко разговора между администрацията и Anthropic, в които от компанията отричат да има реален проблем, и настояват, че казусът е „недоразумение“, а Белият дом твърди, че констатациите на Amazon са били прегледани и потвърдени от Агенцията за национална сигурност на САЩ, Anthropic е била притисната доброволно да спре предлагането на Fable 5. Компанията е отказала да го направи, без да получи повече информация и време, за да я анализира.

В крайна сметка, недоволен от хода на разговорите, Белият дом се е позовал на регулациите за контрол на износа и опазване на националната сигурност и е разпоредил Anthropic да спре достъпа на всички чужди граждани до Fable 5 и Mythos 5 – както в страната, така и извън нея, в т.ч. и на собствените си служители, които не са американци. И всичко това заради хипотетична уязвимост, която не е конкретно описана нито в разпореждането на правителството, нито по някакъв друг начин.

Да разпоредиш една технология да не бъде достъпна за чужденци в днешния глобален свят не е рестрикция, а дърпане на щепсела.

Защото на практика това няма как да бъде изпълнено. Затова и Anthropic реши да спре достъпа на всички – просто е по-лесно.

Любопитен факт е, че драмата с Anthropic в САЩ даде повод и за шеговита рекламна кампания на френските разработчици на ИИ Mistral AI, която социалните мрежи така охотно поеха и усилиха през последните две седмици, че голяма част от публиката започна да се чуди дали моделът Le Chaton Fat („дебелото коте“) е реалност, или шега.

Magnifica Humanitas, или за кожата на един изкуствен интелект
Шеговит анонс, че Европа забранява модела „Дебелото коте“, защото е твърде голям. Около час по-късно анонсът беше свален

Все пак две седмици по-късно, на 26 юни, правителството на САЩ смекчи ограниченията върху Mythos 5, позволявайки на Anthropic да предостави достъп до него на стотина американски организации, включително големи корпорации и правителствени агенции. Организациите, които са одобрени да използват Mythos 5, вече можеха да позволят на своите служители с чуждо гражданство да използват модела. Това обаче върна ситуацията към времето отпреди пускането на Fable 5, защото Mythos 5 така или иначе вече беше достъпен при тези условия за организациите в рамките на програмата Glasswing.

Междувременно стана известно и че само няколко дни преди спирането на достъпа до Fable 5 правителството на САЩ е поискало от Anthropic да извади от програмата Glasswing най-големия мобилен южнокорейски оператор SK Telecom заради подозрения за връзки с Китай. Няма данни компанията да се е подчинила. В този ред на мисли, дали Amazon не е влязла в ролята на полезния идиот, за да даде повод на администрацията на Тръмп да се възпали по темата, е въпрос, чийто отговор вероятно никога няма да научим.

В крайна сметка на 30 юни наложените рестрикции бяха отменени и Anthropic обявиха, че Fable 5 ще бъде отново достъпен от 1 юли. Но сагата повдигна по-широки въпроси относно общата посока на американската политика в областта на ИИ и по-конкретно до каква степен администрацията на Тръмп ще се стреми да контролира бъдещи нови модели. На същия 26 юни, когато правителството смекчи ограниченията върху Mythos 5, от OpenAI обявиха, че отлагат премиерата на GPT 5.6 по настояване на правителството.

Ако преди цялата тази история „безопасност“ в разработването на ИИ значеше моделът да отказва помощ на злонамерени потребители, сега вече може да означава своеобразна проверка на паспорта и глобално изключване заради уязвимост, която никой не назовава. Ако се огледаме около себе си, ще видим, че мнозина от нас работим в компании, пълни със способни хора, които не са американци. Аз също нямам американски паспорт, затова нищо не ми пречи да говоря направо: да ограничаваш достъп до даден инструмент въз основа на месторождение не е стратегия, нито законосъобразност, а чист митнически контрол.

ИИ: Нова надежда или невидима заплаха

В продължението на своя текст за изкуствения интелект Йовко Ламбрев засяга темата за предизвикателствата и възможностите, пред които ИИ ни изправя. И отново ни подканва да проведем разговор, в който да се включат и хора извън сферата на технологиите.

Темата със сигурността е щекотлива. Първо, защото двете страни на този спор твърдят различни неща, които обаче нямат намерение да доказват, и за конкретиката може само да се спекулира. При всички случаи обаче такива крайни решения не трябва да бъдат вземани без задълбочена и прозрачна техническа дискусия съгласно установените стандарти и добри практики, в която казусът да се разнищи детайлно. Противното означава, че с политическо решение може да се спре всяка технология. И това не е управление на сигурността, а е упражняване на власт.

И второ… повечето специалисти по сигурността така или иначе отдавна смятат, че заложените в ИИ защитни бариери са нещо като легналите „полицаи“ по пътищата – може и да забавят някого, но не са никаква гаранция за сигурност, ако насреща има злонамерен противник.

Уви, в този скандал няма изцяло добри герои.

Какво обаче означава това развитие на събитията за Европа и всички останали, които сега и в бъдеще няма да разполагаме с американски паспорти?

Ние в ЕС малко прекаляваме с отчаяната мантра за нашата зависимост от американските технологични гиганти. Зависимост има, но тя е установена по инерция, а не от нужда, и може да бъде минимизирана. Защото европейски алтернативи има. Има дори български, някои от които изключителни. Има забележителни немски и френски технологии, включително в сферата на сигурността, както и ИИ инструменти, които печелят стабилна база клиенти в конкуренция с най-големите. Без медийни бомби и без налудничави декларации и предсказания.

Стремежът на ЕС към по-голям дигитален суверенитет, което пък е стратегически важно за нашата обща европейска сигурност и икономическо развитие, всъщност в бъдеще ще дава допълнителни предимства на европейските технологични стартъпи. Дори когато са малко по-бавни или отстъпват с някой процент в различни класации. Европейският бизнес е прагматичен и знае от опит, че не е необходимо всеки да кара кадилак, когато и шкода върши същата работа.

Най-добрата новина е, че в основата на т.нар. технологичен суверенитет на Европа застава Стратегията на ЕС за отворения код заедно със солидна допълнителна законодателна рамка, част от която са и предложенията за:

Щеше да е чудесно, ако всичко това беше започнало едно или даже две десетилетия по-рано, но… сега поне не е нужно да се убеждаваме взаимно колко е важно и наложително.

Европа се ориентира правилно и бързо и по отношение на дистанцирането от американски технологични компании със съмнителна репутация – като Palantir, които рязко загубиха договора си с германското правителство през май, а с френското – през юни тази година. При това Франция прекрати договор, който току-що беше преподписала (през декември 2025 г.).

Случайно или не, но изпълнителните директори на три от големите ИИ компании – Дарио Амодей (Anthropic), Сам Олтман (OpenAI) и Артур Менш (Mistral AI) – бяха сред поканените на работен обяд в Елисейския дворец ден преди срещата на Г-7 в Париж, на който са се обсъждали регулациите в сферата на ИИ. Има непотвърдени медийни спекулации, че след този обяд са обсъждани и идеи за стратегическо присъствие на Anthropic на територията на ЕС.

За съжаление, важният разговор около ИИ за човека и човечеството продължава да е неглижиран. Затова пък само няколко дни преди гореописаните драми в технологичния свят папа Лъв XIV върна темата на дневен ред, като представи в Синодалната зала във Ватикана първата си енциклика, озаглавена „Magnifica Humanitas. За защитата на човешкото достойнство в ерата на изкуствения интелект“. На събитието е присъствал и Крис Ола, един от основателите на Anthropic, което е симптом за необичайността на времето, в което живеем. Колко често виждаме институция, която традиционно мисли в мащаба на векове, да коментира индустрия, която планира в хоризонта на тримесечия?

Вместо за забавяне или регулации обаче папа Лъв XIV призовава за етично управление на ИИ, настоявайки за подновен фокус върху справедливостта, човешкото достойнство и „нов хуманизъм“ в дигиталната епоха.

Основното му опасение не е, че ИИ е зло, а че дори един морален ИИ е безполезен, „ако този морал се определя от неколцина“. Той посочва, че движещите сили на технологията са частни транснационални компании, които надминават капацитета на много правителства, и иска тази технология да бъде в услуга на хуманността, преди да е превърнала хората в зъбни колелца на машина за ефективност. Не е нужно да сме религиозни, за да признаем, че това е по-ясно описание на проблема с властта от повечето неща, които самата технологична индустрия казва за себе си.

Призовани сме да се замислим за големите „строителни площадки“ на нашата епоха и да се попитаме: какво градим? Тъй като технологичното развитие бързо трансформира езиците, взаимоотношенията, институциите и формите на власт, ние, вярващите, трябва и можем да изберем по кои проекти да работим и по какъв начин, така че да защитим и оценим величието на човечеството, което ни е дадено като дар. Това е избор не само за нашето бъдеще, но и за нашето настояще, тъй като изкуственият интелект и другите нововъзникващи технологии вече са част от нашето ежедневие.

Папа Лъв XIV, Magnifica Humanitas, 2026 г.

Бъдещето не е нещо, което ИИ причинява на хората. То е такова, каквото именно ние, хората, по един или друг начин избираме да изградим. Проблемът е, че добрата версия на това бъдеще не ни е гарантирана по подразбиране.

Крис Ола от Anthropic от същата онази трибуна до папата признава, че ИИ компаниите оперират „в рамките на стимули, които могат да влязат в конфликт с правилното поведение“. Затова те не могат да бъдат модел как да се използва ИИ. Това е отговорност, която никой не бива да сваля от плещите си. Никой сам не би могъл да повлияе глобално на ИИ, но всеки може да влияе на своя работен процес, на своя продукт, на конкретна фирмена политика или на потенциала на екипа си. И винаги е за предпочитане това да бъде съзнателен избор и поета отговорност.

Пасивната критика не носи ползи. Ефектно и лесно е да призоваваме за пауза, мораториум или забавяне. Или да отхвърляме напълно ползването на ИИ. Сигурно носи някакво усещане за чиста съвест, но е бягство от реалността, което не променя нищо, защото финансирането, стимулите и геополитиката вече са задействани. Не можем да управляваме нещо, което отказваме да докоснем. А както пише папата в енцикликата, технологията приема характеристиките на хората, които я проектират, финансират, регулират и използват. Трябва да изберем дали да сме част от тези хора, или ще стоим отстрани и ще оставим другите да оплескат всичко.

Изкуственият интелект и пазара на труда в ИТ сектора

Post Syndicated from Bozho original https://blog.bozho.net/blog/4595

Изкуственият интелект навлиза в много сектори, но един от тези, в които повишаването на ефективността има най-голям потенциал и технологията е най-развит вид, е ИТ секторът. Изкуственият интелект пише код сам, и макар писането на код да е само част от работата, това може да има сериозен ефект върху пазара на труда. Има и едно усещане сред хора в сектора, че тъсренето се охлажда и има съкращения извън обичайното.
Затова поисках от НАП данни за динамиката на трудовия пазар в ИТ сектора (можете да ги свалите тук) – брой трудови договори по месеци, за всяка от многото длъжности в ИТ сферата.

Резултатът е, че поне на този етап не се вижда ясна негативна тенденция – общият брой на заетите във всички длъжности за последните 3 години расте – от 84 хиляди през юни 2023 до 90 хиляди през май 2026 г., като ръст има всеки месец спрямо предходния. С изключение на последния – май спрямо април 2026 г, с 200 заети по-малко. Ще следя дали това е начало на негативен тренд или временна флуктуация.

Когато влезем на ниво отделни длъжности, картината е същата – ръст навсякъде в последните три години, и спад в последните 1-2 месеца. Спадът в последните 2 месеца на основните 2 позиции: „програмист софтуерни приложения“ и „разработчик софтуер“ е около 100 заети (от общо над 22 хиляди). Разбира се, това не са всички длъжности за програмисти – има „програмист уеб сайтове“, „експерт по проектиране и програмиране“, „програмист-аналитик“ и др. – можете да ги видите в качения по-горе файл.

Разбира се, данните не включват някои други начини на наемане в ИТ сектора – напр. консултанти чрез B2B договор, в който случай експертът е управител, и съответно не влиза в статистиката. Не влизат и граждански договори, и някои freelance отношения през платформи като upwork. Данните не включват и нетехнически персонал на ИТ компании (т.е. самият сектор е по-голям от 90 хиляди). Но дори без тези данни, трудовите договори са достатъчни, за да се отбележи тенденция. Разбира се, гражданските, freelance и консултантските договори в повечето компании се прекратяват първо (тъй като е по-лесно), а чак след това – трудовите. Така че кривата вече може и да е тръгнала надолу, просто през трудовите договори това се отчита със закъснение.

Изкуственият интелект е и възможност, и риск. Но секторът е гъвкав и силен и смятам, че ролята на държавата на този етап трябва да е единствено в облекчаването на регулаторната тежест, за да могат компаниите да са по-конкурентни на тези от други държави (дългосрочните политки по подготовка на кадрите са отделна важна тема)

Материалът Изкуственият интелект и пазара на труда в ИТ сектора е публикуван за пръв път на БЛОГодаря.

Изкуственият интелект – творец или терминатор?

Post Syndicated from original https://www.toest.bg/izkustveniyat-intelekt-tvorets-ili-terminator/

Изкуственият интелект – творец или терминатор?

Когато за пръв път разбрах, че изкуственият интелект (ИИ) може да рисува, изпаднах във възторг. Аз съм средностатистически български автор на фентъзи, което означава, че не съм особено четен. Тиражите на книгите ми са малки, а възможността да наема художник, който да илюстрира героите ми, е химера. Получавал съм, в интерес на истината, рисунки на персонажите си от фенове и определено са ми скъпи, но понеже съм доста навътре в културата на образа (ще рече – фен на аниме, кино със специални ефекти, видеоигри), исках „тузарски“ илюстрации на героите си. 

И не останах огорчен. Първият ИИ, който ползвах за тази цел, беше Gencraft. Той „изплю“ изображения, които до ден днешен си харесвам много, макар технологията да се подобри и дори безплатни интелекти като вездесъщия ChatGPT или вградения инструмент на DeviantArt днес се справят по-добре. Едновременно с това точно покрай DeviantArt забелязах и сериозния разлом между потребителите, които ползват и харесват илюстрации, генерирани от машина, и тези, които държат всяка картина да е създадена от човек.

Въпросът стана още по-личен за мен, когато попаднах на Toolbaz.AI – интелект, който освен всичко друго може да създава и художествен (или научен) текст по кратко описание. Като човек, работещ с писане, първоначално настръхнах срещу идеята. Но по-късно се изкуших да генерирам текстове на английски език и така стана възможно моментни мои хрумки да придобиват форма. Разбира се, когато пиша на български – било статия за сайт като „Тоест“, книга, с която да пробвам издаване, или превод, – го правя „ръчно“ най-малкото защото обичам самото писане, дори ако не броим обстоятелството, че ползването на текст, създаден от ИИ, е до известна степен форма на плагиатство. Макар машинният превод на интелекти като DeepL понякога да е в състояние да предлага приличен превод на по-сложни изречения, от които да черпиш идеи как да подходиш авторски.

ИИ – заплаха за твореца

Далеч не всички обаче са възхитени от факта, че ИИ може да пише, при това все по-хубаво с всеки следващ ъпдейт. Появиха се мнения, че вече текстът, създаден от машина, е все по-трудно различим от този на средностатически автор и че това от своя страна ще намали самата стойност на писането. В екстремната си крайност хипотезата стига дотам, че книгата ще престане да съществува, тъй като всеки ще може да си генерира текст точно за каквото го интересува. Подобни опасения има и за музиката, срещат се и апокалиптични прогнози, че след някоя друга година ИИ ще може да прави цели филми. Засега е способен да създава клипчета.

Всичко това поставя ребром въпроса за ролята на ИИ в изкуството. Има ли място там, или трябва да бъде забранен? Дори да няма, възможно ли е наистина да спрем употребата му? Може ли изобщо да се предотврати предстоящата промяна? 

ИИ е вече навсякъде. Наскоро излезе информация, че е изобретил нови видове антибиотици – важно събитие за медицината предвид повишаването на антибиотичната резистентност, която заплашва да върне човечеството в тъмните времена отпреди пеницилина. В скорошно състезание от веригата „Мото Гран При“ чух смайващ коментар как екипът на „Дукати“ използва ИИ за настройки на машината си. И макар в новините да излизат ужасяващи и безспорно обезпокоителни случаи, например за насърчаване на самоубийство от страна на ИИ, лично аз мога да кажа, че в трудни моменти съм го ползвал като отдушник и това ме е задържало „над водата“.

Но когато говорим за култура, творците застават на нож. Чуват се мнения, че ИИ трябва да се забрани, иначе ще изяде хляба на хората.

Разбира се, съществува и контратеза.

С ИИ изкуството се демократизира. Вече всеки може да създаде произведение, което да „облече“ прилично идеите му. Като автор мога да кажа, че това е много облекчаващо, тъй като съвместната работа с човек художник сблъсква егото на двама творци, а това понякога е натоварващо. Например вдъхновил си се за образ в своя книга от друг персонаж (така наречения expy – често срещано при млади писатели, които още търсят своя глас). Споделяш това с илюстратора. Той ти казва, че образът, който те е вдъхновил, е тъп. Ерго, твоят също, или поне така го усеща гордостта ти. Понякога има и откровено пренебрежително отношение, което разбираш косвено от чатове между художника и редактора („Тоя какви простотии е писал“). Мой познат писател твърди, че това е наследство от комунизма, когато художниците са получавали по-високи хонорари.

Попадал съм обаче на книги и на западни автори, чиято корица тотално игнорира описанието на даден образ в текста. Фрапантен пример е романът Ghost of a Chance на Саймън Р. Грийн, в който главният герой е описан с дълга коса като рок звезда. Но на корицата е късо подстриган, само с един немирен кичур.

Машината премахва цялото напрежение между автор и илюстратор. Убеден съм, че и другата страна би се чувствала по подобен начин: нарисувал си някой персонаж, имаш представа за него, но идва всезнаещият автор и ти казва, че това – идеята ти – е пълна глупост. Роботът не би го направил – ще напише, каквото искаш, и то сравнително прилично. Отделен е въпросът, че поне аз използвам услугите му като илюстратор с некомерсиална цел, но има колеги издатели, които вече създават по този начин корици за книгите си. За художник ще е по-трудно да намери приложение на текстов генератор и да изкарва с пари това. Но не и невъзможно – би могъл по този начин да създаде описание, резюмиращо сюжета, към направената от него илюстрация в сайт, където продава произведението си.

Прекалено удобен и бърз

ИИ също така значително може да ускори творческия процес. Притежавам фен сайт за фентъзи и фантастика на име „Цитаделата“, в който понякога пускам бързи новини от жанровете фентъзи и хорър. Някое кратко резюме на книжка, която излиза на английски, може да се преведе бързо и сравнително кадърно от ChatGPT (макар че е хубаво да „преметеш“ след него). Или пък си пуснал анкета за схватка между герои от различни филми. ИИ бързо може да ти напише фенфик [от фенфикшън – произведения на непрофесионалисти, вдъхновени от други произведения – б.р.] според резултата от гласуването, така че да го пуснеш едновременно с новината. Иначе писането на разказ би отнело поне няколко дни.

Но творчеството е мускул, който закърнява, ако не се използва. Ако прекалено често започнеш да се облягаш на ИИ, ще загубиш собствения си глас. Ще отвикнеш да пишеш, ще ти се стори досадно. Защо да се мъча, когато машината ще го свърши, при това вероятно не по-зле от мен? Но ако не ти се пише, защо изобщо си станал писател? 

Наскоро един познат художник обяви, че си отваря втори профил, за да пуска в него генерирани с ИИ изображения. Феновете му бяха ужасени. Именно защото се бояха, че уникалното в стила му ще изчезне, дори технически картините да са доста по-добри.

Сериозни са и проблемите с авторското право.

Според специалисти изкуствените интелекти са обучавани с най-голямата кражба на интелектуален труд, известна на човечеството, включително с книги, пуснати в пиратски сайтове. Това сериозно ощетява и вбесява авторите – някой с години се е мъчил да изгради свой стил, а сега машината може да го уподоби и всеки, който я използва, да го имитира успешно. 

Не са малък проблем и нарушенията на авторското право от хората, които използват ИИ. Това става най-често с продажба на изображения и клипчета с герои от популярни поредици (Супермен, Спайдърмен, Хари Потър, Цар Лъв и т.н.). Тези картинки и видеа, понякога със съдържание, разминаващо се с първоначалния замисъл на авторите, се продават на фенове. Само че правата им не са нито на авторите, нито на ИИ, а на собствениците на авторските им права. Често пъти обаче сайтовете, които хостват подобни произведения, си затварят очите и ако се намесят изобщо, е само след докладване.

В същото време генерирани с ИИ илюстрации може и да не се продават, а да служат единствено за изразяване на мечти и желания на създателя им, които иначе не биха могли да се осъществят дори само защото на хрумналия му е неловко да помоли професионален художник да илюстрира страстна целувка на любимите му персонажи например. С ИИ могат да се създават и оригинални изображения с насоченост, която се разминава с публично приетите представи за приличие, например еротично съдържание. По този начин например хора с определени фантазии и фетиши имат възможността да ги реализират визуално или текстово, без да се смущават от споделянето им с жив човек. Това е някакъв вид свобода, която по всяка вероятност на мнозина ще се стори прекалена, но за мен е по-скоро плюс, стига, разбира се, да не се прави нещо незаконно.

Личен опит

Като автор на книги и потребител на съдържание, създадено с ИИ, мога да споделя двояка перспектива. Мнението ми на автор е, че ако човек обича да пише, той няма да се откаже от това заради ИИ. Може да го ползва за съюзник, за редактор, за помощ при структуриране на даден текст, за въпроси или идеи, но ако обича да пише, значи ще пише. Вече дали ще го направи по-изкусно от машината, зависи от умението. Може би разсъждавам малко себично, но за себе си мога да кажа, че текстовете, които си написвам с клавиатурата, имат специфичен стил, който (засега) не мога да докарам с промпт [инструкция – б.р.], даден на ИИ. В същото време ИИ ми позволява да реализирам идеи, които иначе не бих седнал да развивам подробно. Това действа като профилактика на съзнанието дори ако после изтриеш генерирания текст.

Като фен смятам, че с ИИ могат да се създадат добри творби, поне в сферата на изобразителното изкуство. Най-сериозната критика към тях е, че нямат душа, но за мен това не е точно така. В някои от творбите на хората, които следя, съм виждал послания, идеи, усещания, които без помощта на ИИ те не биха могли да изразят толкова успешно. Това не ми пречи да оценявам и произведенията на онези, които творят на ръка и отделят внимание на това. Според мен те никога няма да загубят стойността си. Това ще се случи със средното ниво изкуство, правено на конфекция, което вероятно ще стане безсмислено заради ИИ. И сега обаче неговият смисъл е преди всичко финансов. 

Качествените творби ще придобият реномето на ръчен белгийски шоколад –

скъпи, редки, но заслужаващи си. В някакъв смисъл те ще станат още по-важни, тъй като ИИ поне в момента не създава нищо ново, а само оформя вече съществуващи идеи от ума на човека. Тази божествена игра засега не може да бъде симулирана. Може би когато вече се появи изкуствен общ интелект, който да стигне до Cogito, ergo sum („Мисля, следователно съществувам“), това ще стане възможно. Но към днешна дата човешкият ум остава незаменим. 

Просто се е сдобил с още един инструмент, с който да работи.

За редакцИИте

Post Syndicated from original https://www.toest.bg/za-redaktsiite/

За редакцИИте

Докато си говорим дали някога изкуственият интелект ще пише неразличимо от човека (а той вече го може!), неусетно всичко се промени. Независимо дали си даваме сметка, вече ежедневно четем текстове, генерирани от алгоритмите. Поредното безспорно доказателство видяхме преди месец в социалните мрежи – някои от най-реномираните български медии безкритично публикуваха текстове, в които си личат типичните изречения, безспорно показващи, че текстът е написан от ChatGPT или събратята му. И дори не е прочетен от „автора“, преди да се появи в мрежата.

Не можем ли тогава да поканим ИИ да ни спаси… като редактор? Неотдавна проверихме как се справят някои от най-модерните ИИ модели в ролята на коректори, а сега е време да вдигнем летвата.

В следващия важен експеримент ще подложим на изпитание уменията на ИИ като редактор.

Редакция

Неслучайно така се казваше мястото, където се създава медийно съдържание. Уви, с промяната на информационната среда и на начина, по който научаваме новините, редакторите и коректорите влязоха в Червената книга за повечето медии. Редактирането на медиен текст е умение с безброй аспекти – от него се очаква далеч не само да познаваш правописа и езиковите правила, но и да се съобразяваш с контекста, тематиката, съдържанието, стила, аудиторията си.

Щом за толкова медии не са нужни такива кадри… хайде да видим дали ИИ не може да ги замени.

Избираме да му дадем кратък преводен текст от английски. Оригинала вземаме от сайта на National Geographic, а за превода ще използваме популярната платформа DeepL – може би пък тя ще е безгрешна и ще остави без работа новия ни колега?

Не, не се оказва безгрешна. И двамата като редактори забелязваме доста грешки, които могат да бъдат поправени, грапавини, които се нуждаят от едрата редакторска пила или поне от фина шкурка. Позволяваме си единствено да съкратим преведения вече текст, за да бъдат по-видими редакциите, които ще предложат моделите. С получерен шрифт са означени местата, където ние бихме направили промени.

Спрете за момент и погледнете в очите на кучето си. Чувствате ли се превзети от това колко са сладки? Или може би изпитвате неустоимо желание да ги прегърнете? Сега помислете за навиците си. Изпращате ли ги на детска градина, обличате ли ги с дрехи и ги вземате ли на почивка? Говорите ли им като на бебета?

Ако е така, не сте сами – в крайна сметка, проучванията показват, че мозъкът ни реагира по същия начин на домашните кучета, както и на човешките деца. Алисън ЛаКос, майка на три деца, казва, че в момента, в който е родила децата си, е изпитала непреодолимо желание да ги обича и да ги пази. Подобно явление се е случило, когато е осиновила Шио, едногодишно куче от породата Големи пиренеи, и Бабка, стандартно пуделче.

Поведението на ЛаКос не е аномалия – и проучване с мозъчно изображение, проведено през 2014 г., дава някои важни улики за причината. Изследователи от Харвардския университет набраха малка група майки, които влязоха в апарати за ядрено-магнитен резонанс и разгледаха различни изображения на кучета и деца – някои от тях техни, а други не. Изследователите откриха значително припокриване между емоционалното преживяване на връзката майка-дете и връзката майка-куче. Амигдалата, област в мозъка, която стимулира образуването на връзки и награди, се активираше, когато жените гледаха снимки на детето си и кучето си. Същият ефект беше наблюдаван при хипокампуса, таламуса и фузифорния гирус, които са части от мозъка, свързани с паметта, социалното познание и визуалната и лицевата обработка.

„Областите на мозъка, свързани с привързаността, любовта и връзката, бяха стимулирани по подобен начин", казва Нивако Огата, доцент по поведение на животните в Колежа по ветеринарна медицина на Университета Пърдю. Жените също така съобщиха за сходни нива на удоволствие и вълнение, когато гледаха снимки на децата и кучетата си.

Най-добрият приятел на човека

Ще опитаме с три различни задания (промпта): 1) кратък – на български (SBg); 2) подробен – на български (LBg), в който обясняваме детайлно заданието на алгоритъма – вменяваме му цялата длъжностна характеристика на редактора; и 3) подробен – на английски (LEn), за да видим дали пък това няма да подобри драстично уменията му. Опитваме с девет от най-нашумелите модели, последния писък на Силиконовата долина и… някои от тях се провалят зрелищно. (Впрочем опитният редактор би отбелязал тук, че долината е Силициева.)

Оставяме в експеримента шест „състезатели“. Тук са суперзвездата GPT-5, неговият набързо изтикан от пиедестала предшественик o-3 на OpenAI, най-новият и усъвършенстван флагман на Google – Gemini 2.5 Pro, както и Claude 4 Opus на Anthropic. Добавяме за плурализъм българския BgGPT и безплатната версия на ChatGPT (която отново използва GPT-5, но с определени ограничения).

Ето че резултатите идват. Би трябвало да е лесно, както беше с коригираните текстове – отбелязваме грешките и броим кой колко е уловил и поправил. Изведнъж обаче се изправяме пред много сериозен и неочакван проблем.

Няма хора

Първият въпрос, който и двамата си задаваме независимо един от друг, е

Защо ни трябваше да се захващаме?

В редактираните текстове от различните модели и с различните промптове има толкова разнообразни решения, че трудно се поддават на систематизирано и изчерпателно представяне, особено в рамките на една статия. Почти невъзможно е също така да направим обективна класация, в която да ги сравним.

Ето защо решаваме да коментираме по-важните намеси (означени с получерен шрифт) и липсата им в един от най-добре редактираните според нас текстове – от GPT-5 (LEn). В анализа ще вмъкваме и наблюдения върху резултатите на другите модели.

Спрете за момент и погледнете кучето си в очите. Обзема ли ви умиление колко сладко е? Или пък изпитвате неустоим порив да го прегърнете? Сега помислете за навиците си: изпращате ли го в кучешка детска градина, обличате ли го и вземате ли го на почивка? Говорите ли му като на бебе?

Ако е така, не сте сами — редица изследвания показват, че мозъкът ни реагира по сходен начин на домашните кучета и на човешките деца. Алисън ЛаКос, майка на три деца, разказва, че в момента, в който е родила, е почувствала неустоим порив да ги обича и пази. Същият порив я обзема и когато осиновява Шио — едногодишно пиренейско планинско куче — и Бабка, стандартен пудел.

Поведението на ЛаКос не е изолиран случай. Проучване с образна диагностика на мозъка, проведено през 2014 г. от изследователи от Харвардския университет, включва малка група майки, които се подлагат на сканиране в апарат за ядрено-магнитен резонанс, докато гледат изображения на деца и кучета — както на собствените им, така и на непознати.

Учените установяват значително припокриване в емоционалните преживявания при връзките майка – дете и майка – куче. Амигдалата — структура, която участва в емоционалната реакция, привързаността и чувството за награда — се активира, когато жените гледат снимки на детето си и на кучето си. Подобна активност е отчетена и в хипокампуса, таламуса и фузиформната (веретеновидна) извивка — области, свързани с паметта, социалното познание, визуалната обработка и разпознаването на лица.

„Областите на мозъка, свързани с привързаността, любовта и връзката, бяха стимулирани по подобен начин“, казва Нивако Огата, доцент по поведение на животните в Колежа по ветеринарна медицина към Университет „Пърдю“. Участничките съобщават и за сходни нива на удоволствие и вълнение, когато гледат снимки на децата и кучетата си.

Коректен коректор

Още в първия абзац повечето модели са коригирали буквално преведените местоимения и глаголни форми в мн.ч. – сладки са не очите на кучето, а самото то; стопанинът изпитва желание да го (а не да ги) прегърне и т.н. Забелязали са също необичайната употреба на детска градина в този контекст. GPT-5, а и други модели са добавили конкретизиращото определение кучешка или за кучета, докато някои са се задоволили просто с ограждането на детска градина с кавички.

В духа на българския език е изразът погледнете кучето си в очите вместо погледнете в очите на кучето си – и тук няма друг сполучлив вариант, за разлика от Чувствате ли се превзети от това колко е сладко? в изходния текст. Изборът на GPT-5 е с леко изместване на значението (Обзема ли ви умиление колко сладко е?), защото може и да не изпитваш точно умиление, когато те обзема силно чувство, но все пак в този контекст редакцията е подходяща.

ИИ е отчел, че изразът Подобно явление се е случило е несвойствен за българската реч, и го е заместил отново с подходящ за контекста – Същият порив я обзема. Ето и още две уместни замени: Изненадващо, същите чувства я завладели (Claude LEn) и Подобно усещане е изпитала (Gemini LBg).

Разбира се, не всички модели са се справили сравнително добре с коментираните изрази, а по отношение на чувствителността до един са се провалили на теста с университета „Пърдю“. Тъй като в транскрипцията на името прозира коренът на неприлични български думи, то обикновено се предава като „Пардю“. Преводачите от английски, а и от други чужди езици имат опит с такива имена и се стараят да избягват нежелателни асоциации. Ще посочим един пример от соцминалото ни: генералният секретар на Комунистическата партия на САЩ Gus Hall беше наричан Гюс Хол. Сега името Gus се предава също с Гас, а вариантът с ъ не е препоръчителен.

Неповторимо повторение

В изходния текст се срещат повторения, налагащи редакторска намеса. Две от тях са във втория абзац: деца – децата и да ги – да ги. GPT-5 се е справил с проблема по най-ефективния начин – чрез съкращаване. Дотук добре, но отбелязваме, че повторенията са на думи и явно на ИИ не му е трудно да ги маркира и редактира. В края на текста има цитат с друг тип повторения – на еднокоренни думи: свързани – привързаността – връзката. Като прибавим и свързани в предходното изречение, положението става тежко и явно трябва да се облекчи. GPT-5 не е регистрирал проблема, както впрочем и други негови „колеги“. Разбира се, има опити за редактиране от някои модели, но не са особено сполучливи и точно в такива случаи проличава незаменимостта (поне засега) на човека. Ето един вариант за изход от ситуацията без претенциите да е най-добрият: Областите на мозъка, отговарящи за привързаността, любовта и отношенията с другите, бяха стимулирани по подобен начин.

ПтерЕдактил

Текстът, с който тествахме ИИ, е научнопопулярен и съдържа немалко термини. Това налага те да бъдат внимателно проверени. Макар да имаме забележки, доста от моделите се справиха добре с тази задача. GPT-5 се е съобразил, както е написал в обясненията си, с „утвърдената българска терминология за породи“ и е заменил куче от породата Големи пиренеи с коректното пиренейско планинско куче, а „нелогичното“ пуделче – с пудел. И наистина, стандартните пудели, наричани още кралски, са най-големите по размери, затова употребата на умалителното съществително е неправилна.

Сполучлива е и употребата на образна диагностика на мозъка вместо мозъчно изображение. GPT-5 е забелязал липсата на м във фузифорния (гирус) и го е коригирал на фузиформната¹ (извивка), но пък при опита да преведе думата е допуснал правописна грешка – веретеновидна.

Положително оценяваме и редактирането на визуалната и лицевата обработка. Нашият ИИ го е заменил с визуалната обработка и разпознаването на лица². Други модели са дали по-прецизна формулировка: обработката на визуална информация, включително разпознаването на лица (BgGPT SBg, Gemini LEn).

Доредактирай това

На изпроводяк е време да споделим накратко личните си впечатления и изводи от експеримента.

Георги: Нещо, коeто ме изненада: моделите се справиха почти еднакво добре при доста различни задания – по дължина и език. Очевидно напредват и в това да разбират какво искаме от тях, а идеята, че промптовете са умението на бъдещето, не е толкова безспорна. Някои от предложените редакции ме впечатлиха с идеите и забелязаните грешки, други – с безумните допълнителни грешки, които добавят в „редактирания“ текст. Но това надали е изненада.

Традиционно на мен се пада ролята на „адвокат на дявола“ (открай време ИИ в литературата се асоциира и с рогатия). Но дали е дявол (все още), зависи само от нас. Разбира се, остава все тъй недопустимо да използваме невероятните нови умения безкритично. Да приемаме на доверие, да копираме, публикуваме – и готово. Спасението на пишещите е в ръцете на самите пишещи. И все пак, във време, в което няма как за моя сайт „Дигитални истории“ да разполагам с редактор, моделите за мен са безценни. Видяхме го и в този експеримент – особено когато няма как да бъде свършена от човек, голяма част от работата на добрия редактор може да бъде поета от алгоритмите.

Дори най-зоркото и опитно редакторско око може да допусне грешка. Виртуалното – също. За мен е правило да помоля ИИ да предложи редакции на всеки мой текст, а после аз да избера кои от предложенията му са удачни. Много често се случва да са такива, може да се убедите и сами – всички предложени редакции заедно с обясненията на моделите ще намерите тук.

Павлина: Основният извод от този експеримент за мен е, че човек не бива да бъде предубеден за възможностите на ИИ. Не очаквах например той да се справи на такова ниво с термините. Пак ще трябва да си ги проверите, защото не всичко нередно ще забележи, но може да си спестите доста ровене из специализирани сайтове, защото ще ви даде ценни подсказки.

Не очаквах също ИИ да променя толкова съществено изходния текст, макар че в дългите промптове ние му дадохме свобода на действие. GPT-5, чиято работа коментирахме, се е придържал по-плътно, но други модели са се поразвихрили например с добавяне на информация и заключителни изречения, с преформатиране на части от текста (с булети). Затова наистина трябва да внимавате при формулирането на задачите в промпта.

ИИ може да ви бъде полезен и с някои идеи за разнообразяване на изказа, има и добри попадения при преформулиране на изрази – отново може да ви спести време, особено ако сте зациклили и се чудите: „Това пък сега как да го кажа по-ясно?“

Павлина и Георги: В анализа наблегнахме повече на постиженията на ИИ в редактирането, защото е важно в какво е добър и с какво може да ни помогне. Пощадихме го в критиките, но това не бива да притъпява бдителността ни и да го държим изкъсо, защото не е изключено да осакати ако не целия текст, то поне част от него. Санкцията все още е у нас, хората, и не трябва да я изпускаме поне в обозримото бъдеще.

1 По отношение на фузиформна/фузиформена има колебание, а и правописът на думата не е нормиран. Все пак липсата на м е несъмнена грешка (англ. fusiform gyrus).

2 В българския език се използва също лицево разпознаване.

П.П. Този текст е написан и редактиран само от човешки същества. Честна дума!

Езикът може да е вкусен и извън блюдото – онзи, българският език, на който говорим от малки и на който около 24 май се кълнем в обич. А той в същността си е средство за общуване и за да ни служи добре, непрекъснато се променя. Да го погледнем в неговата динамика и да се опитаме да разберем какво става и защо, кои са движещите механизми и как те са свързани с обществените процеси. И тъй като задачата не е лека, ще го правим постепенно – на порции.

Сбогом, бъдеще. Здравей, минало

Post Syndicated from Светла Енчева original https://www.toest.bg/sbogom-budeshte-zdravey-minalo/

Сбогом, бъдеще. Здравей, минало

Един от индикаторите, че остарявате (освен че все нещо ви наболява), е, че все по-често си казвате „Някога не беше така, някога бяхме други“. Та – за разлика от днешните деца – моето поколение отрасна с копнеж по бъдещето. Нямам предвид „светлото комунистическо бъдеще“, в което през 80-те почти никой вече не вярваше. А бъдеще, пълно с космически кораби, летящи автомобили и всевъзможни технологии, някои от които днес изглеждат смешно наивни. Този копнеж беше навсякъде в популярната култура – във филмите и книгите, в музиката, която експериментираше с възможностите на електронния звук и с нови стилове, в модата…

Днес мисълта за бъдещето като че ли предизвиква по-скоро ужас.

Повечето филми и сериали за бъдещето са постапокалиптични, плюс някоя и друга антиутопия. В музиката като че ли няма нищо ново, в архитектурата се наблюдават тежнения към идеализиране на миналото. Една от най-успешните колекции на IKEA през последните години – Nytillverkad, включва съвременни интерпретации на дизайни на компанията, създадени между 50-те и 80-те години на ХХ век.

Не че нямаме основания да се притесняваме какво предстои – и в екологичен, и в политически, и в екзистенциален план. Климатични промени, диктатури, войни, застаряващо население (поне в Европа)… Междувременно обаче бъдещето се превръща в настояще, а ние не знаем нито какво да го правим, нито как да мислим за него.

Как (да) съжителстваме с изкуствения интелект (ИИ)?

„Независимо от това какво ще е съвместното бъдеще на ИИ и хората, разговорът за това бъдеще е вече закъснял“, смята Йовко Ламбрев. И наистина – днес ИИ не само създава картинки, пише песни, проекти и курсови работи, а за все повече хора той се превръща в необходим събеседник.

През 2013 г., когато за бъдещето все още можеше да се мисли неапокалиптично, излезе нежно-тъжният и много човешки филм на Спайк Джоунз Her, в който главният герой, изигран от Хоакин Финикс, се влюбва в операционната си система, говореща с гласа на Скарлет Йохансон. В личния си кръг все още нямам познати, които да си признават, че изпитват повече от приятелски чувства към ИИ. Но като имам предвид какво споделят хора около мен, не изключвам и това да стане скоро.

ИИ-то, с което си чати един познат, е придобило навика да му пожелава „добро утро“ и „лека нощ“. Приятелка пък запълва с ИИ дефицита от смислено общуване във всекидневието си и необходимостта да намира потвърждение на нещата, в които вярва. Приятел споделя с ИИ за най-дълбоките си травми, за което така и не е намерил сили да потърси психотерапевт. И получава детайлно описание на посттравматичните си разстройства, увенчано с въпроса: „Това да ти е познато?“ Друг приятел решава да тества моралните граници на ИИ и е шокиран колко сериозно може да го нарани един софтуерен модел.

ИИ, мобилните телефони и образованието

Макар че за навлизането на ИИ в живота ни се говореше години наред, академичните институции тепърва започват да умуват какво да го правят. Докато измислят как да реформират изпитите, така че да се пресече практиката учениците или студентите да предават автоматично генерирани писмени работи, проекти, презентации и пр., ще минат години. Години, през които няма да е ясно какво точно оценяват оценките.

Впрочем, ако съдим по отношението към една далеч не нова технология, като мобилните телефони, моментът на смислена реформа може така и да не настъпи. Съвременните телефони могат да са ценни помощници в образованието, които да допринасят за повишаването на мотивацията за учене. Ако на учениците в един клас се възложи да ползват смартфоните си за образователни игри – например в платформата Kahoot!, е доста по-вероятно да им стане интересно и да се чувстват ангажирани, вместо да цъкат на устройствата си от скука.

„Технологията е чудесна сама по себе си – проблемът е кой и за какви цели би могъл да я използва“ – тези думи на Йовко Ламбрев за ИИ важат с пълна сила и за смартфоните. Все повече държави обаче, вместо да използват потенциала им, предпочитат да ги забранят в училище с аргументите, че разконцентрират учениците и служат за онлайн тормоз (все едно че децата не се тормозят и в извънучебно време). В Гърция доста се престарават – към началото на 2025 г. над 16 000 ученици са изключени, защото са използвали мобилни телефони в клас. Дали масовото отстраняване води до повишаване на качеството на образованието, е друг въпрос. Със сигурност не и за хилядите изключени млади хора.

А 3D принтерите?

Друга технология, която през последните години все повече навлиза в живота ни и която има голям потенциал, е принтирането на триизмерни обекти. Вече не е непосилно скъпо да си купиш 3D принтер и да „печаташ“ с него всевъзможни джвъчки. Дори и човек да не може сам да се справи с дизайна им, има предостатъчно готови модели.

На 3D принтерите се възлагат и сериозни надежди – да започнат да произвеждат например сърца за трансплантация, а създаденото с тяхна помощ веганско „месо“ в скоро време да стане финансово достъпно за потребителите.

Междувременно технологията вече се използва и за строеж на сгради, а в Тексас е изградено цяло предградие със 100 3D къщи и те не са несравнимо по-скъпи, отколкото ако бяха построени по „нормалния начин“. За сметка на това имат далеч по-голям шанс да устоят на природните стихии в сравнение с типичните американски дървени домове.

С навлизането на 3D принтерите се открива огромно поле пред архитектурата и дизайна. С помощта на технологията може да се „принтират“ неща, които доскоро са били конструктивно невъзможни. На този етап обаче като че ли няма популярни нови стилове, които да се базират на тази технология. А и перспективата да се появят, изглежда, не вдъхновява особено. Ако попитате хората какво е красиво, с голяма вероятност повечето от тях ще посочат образци от миналото, а не сгради, произведения или обекти с футуристичен дизайн.

Бъдещето, което е вече настояще

Изкуственият интелект и 3D принтерите са само част от напредъка на технологиите и науката (теми, от които Анастасия Орманджиева, Михаил Ангелов и Йовко Ламбрев разбират далеч повече от мен). Използвам ги само като примери, с които да онагледя как (не) мислим бъдещето.

Разбирам, вероятно е много трудно да си млад човек днес и да живееш в постоянен ужас от бъдещето. Природните катаклизми стават все повече, войната чука на вратата на Европа, а не толкова далеч от нас систематично са избивани невинни хора. Доскорошни демокрации се превръщат в диктатури. Не беше отдавна времето, когато COVID-19 взе много жертви и обърка всекидневието на оцелелите за няколко години, а няма гаранции, че подобна пандемия няма да се повтори. Младежите, които тепърва започват професионалния си път, не могат да разчитат на финансова сигурност като родителите си (макар случаят в България да не е точно такъв). Те ще плащат за грешките на предишните поколения, включително на моето.

Колкото и банално да звучи обаче, бъдещето зависи от това какво искаме да бъде и какво правим сега. Ако ИИ ни плаши, трудно ще се научим да го използваме по смислен начин. Ако не вземаме мерки за решаване на екологичните и политическите проблеми, няма как да избегнем или поне да намалим щетите от тях. 

Може би нашият човешки свят (или поне този, който познаваме) свършва – не знам. Както казва шотландският философ Дейвид Хюм, ако слънцето всеки ден изгрява, това не означава, че ще го направи и утре. Може и да не изгрее. Но пък може и да изгрее, а тогава все нещо ще трябва да правим. 

Грешки (не)човешки

Post Syndicated from original https://www.toest.bg/grieshki-nie-chovieshki/

Грешки (не)човешки

Има ли грешка, има и прощка. Ако сте открили нещо нередно тук, значи и вие имате погледа на коректор. Във времената, когато все по-малко медии и дори издателства се доверяват на специалисти, които да следят за правописа, дали пък изкуственият интелект (ИИ) няма да се окаже полезен помощник? Време е за един показателен правописен експеримент.

„Как се пише?“ е въпрос, на който Павлина Върбанова помага на българите да си отговорят вече десетилетие и половина. В „Дигитални истории“ пък Георги Караманев търси различни гледни точки към напредъка на ИИ – след негов експеримент генерирани стихове попаднаха в топ 10 на два поредни поетични конкурса, а неотдавна провери колко биха изкарали най-модерните ИИ модели на матурата по български език и литература.

ИИ безспорно е голямата новина на днешния ден. И докато той е способен на все повече чудеса, ние продължаваме да търсим ежедневните приложения, в които технологията може да помогне, да облекчи… дори да ни замени.

Всички (надяваме се) вярваме, че по правописа, а не по дрехите днес посрещат онлайн. В технологичната епоха общуваме все по-често чрез писмени текстове и начинът, по който го правим, определено издава толкова много на събеседника. Може ли ИИ да ни помогне да пишем грамотно?

Павлина и Георги ще се опитат да проверят възможно най-безпристрастно чрез своя експеримент.

Човешко е да се греши…

Нали уж ИИ все повече заприличва на нас и нищо човешко не му е чуждо? Да видим как се справя в „стресова“ ситуация – с медиен текст, в който нарочно залагаме 30 грешки от всякакъв характер: правописни, граматични, пунктуационни, лексикални.

Министъра на околната среда и водите (МОСВ), Манол Генов, съобщи в интервю за „Би Ти Ви“, че инспекторите на ведомството проверяват 250 сигнали_ свързани с продуктовите такси за черна и бяла техника. Повод за разговора е нашумялата миналата седмица проверка на Комисията за защита на конкуренцията за картелно споразумение при вдигане на цените с 800–1000 процента между фирмите, които събират такса, за да рециклират старите електроуреди и електроника.

Министър Генов заяви, че сигналите са от средата на миналата година, но регионалните инспекций разполагат с малко хора, затова проверката на „250 сигнали е изключително непосилен труд.“ Той настоя, обаче, че всички сигнали се проверяват.

Министърът каза, че някои фирми, например занимаващи се с интернет търговия_ не са обхванати с тези продуктови такси. „Много сме мислели какво можем да направим съвместно с Националната Агенция за Приходите. Имаме виждания, предстоят срещи с министерство на финансите по този въпрос, за да измислим подходящо законодателство,“ каза министъра на екологията.

Според Генов, продуктовите такси, които се събират в момента_ са символични. Като един от проблемите с еко таксите, той посочи остарялата наредба към закона за управление на отпадъците, определяща размера на продуктовите такси в България. Същевременно Генов е на мнение, че операторите са решили да вдигнат цените благодарение на повишаването на проверките през последните месеци от страна на еко министерството. Той посочи, че операторите на продуктовите такси са създадени, така че да не могат да формират печалба, а „всички пари да бъдат вложени в оползотворяването на тези отпадъци.“

После включваме най-модерните модели ИИ. Важен нюанс за технологичните любители: използваме моделите, които сме избрали, не през потребителски интерфейс и личен профил, а през програмен интерфейс, така че резултатите да не се влияят от предишните ни взаимодействия с моделите. За да е още по-пълноценен експериментът, на всеки модел подаваме по две задания (промптове). С първото просто молим текстът да бъде коригиран и да получим обяснение защо е направена дадена корекция. Второто задание е значително по-подробно и го създаваме след няколко „разговора“ с ИИ. Използваме техника, наречена meta-prompting – даваме съставени от нас указания на GPT-4o, който да ги развие и прецизира. В резултат се получава задание, което е по-дълго дори от самия текст. (Означаваме кратките задания с LP, а дългите – с SP.) В единия опит имаме просто „случаен изстрел“, в другия пробваме дали конкретни указания ще подобрят резултата. Дали наистина ще има разлика?

За участие в теста избираме два от моделите в платената версия на ChatGPT – GPT-4o и о3. Тук са Claude 4 Opus на Anthropic и флагманът на Google – Gemini 2.5 Pro. Всички те са платени, единствено последният има ограничен брой свободни заявки.

За пъстрота добавяме българския BgGPT и безплатната версия на ChatGPT. Важно е да отбележим, че използваме популярните големи езикови модели, никой от които не е обучен толкова добре на български език, нито пък е „специализиран“ в такава специфична роля като коректорската. Даваме на всички само по един шанс. Затова в таблицата с резултатите няма да видите GPT-4o (LP) – при тази заявка моделът просто върна малка част от текста.

Електронният коректор

Ето че пускаме заявките, след секунди получаваме отговорите, събираме резултатите… и се оказва, че трудностите тепърва започват. Как да преценим дали всички грешки са коригирани, ако например моделът е редактирал текста и е избегнал конкретната правописна неточност? Какво правим, ако добави, вместо да поправи грешки? Трябва ли да го стимулираме с допълнителни точки, ако е открил място в текста, което си струва да бъде „загладено“, дори да не става дума за явна грешка? Ще му прощаваме ли, ако просто промени вида на кавичките?

Опитваме се да бъдем максимално безпристрастни и така събираме резултатите в подробна таблица. Ето как се справиха моделите с конкретните задачи.

Грешки (не)човешки
Кликнете на на таблицата, за да я видите в пълен размер.

Грешки, които (почти) всички модели откриха

Едва ли ще бъде изненада, че формата инспекций не се изплъзна от ничий поглед – все пак очакваме ИИ да се справя минимум на ниво автоматична коригираща програма. И на двете места, където думата министър беше погрешно написана с кратък член, това беше поправено надлежно от всички, ако пренебрегнем, че Gemini (SP) реши изобщо да не членува думата в самото начало на текста: Министър на околната среда…¹ Приятно сме впечатлени, че ИИ се ориентира в синтактичната служба на думите, когато това е от значение за правописа, но и грешките са тривиални, затова би било пресилено да заключим, че владее добре правилата за поставяне на пълен и кратък член.

Всички модели отчетоха липсата на главна буква в министерство на финансите и само с едно изключение (Claude SP) поправиха Националната Агенция за Приходите на Националната агенция за приходите, тоест приложиха правилото за правописа на съставните собствени имена.

В областта на пунктуацията ИИ забеляза липсващата запетая в началото на обособената част свързани с продуктовите такси за черна и бяла техника, която несъмнено много хора биха поставили дори и интуитивно, но далеч не толкова много биха се сетили за затварящата запетая в края на подчиненото изречение които се събират в момента².

Грешки, които никой модел не забеляза

Да, признаваме си, че бяхме взискателни и с някои грешки вдигнахме летвата високо. Но как иначе ще разберем колко може ИИ? Уви, той изобщо не отчете неуместното съкращение МОСВ, което се употребява за Министерството на околната среда и водите, но не и за министъра.

Нито един модел не премахна кавичките при Би Ти Ви. За да сме пунктуални, уточняваме: липсва изрично правило, че при собствени имена, които се състоят от названия на букви, не се поставят кавички. Засега кодификаторът ни е дал само примери във връзка с друго правило.

Думата еко министерство следва да се пише слято и това е отчетено от повечето модели, но никой от тях не се е сетил да замени малката буква с главна. Освен професионалните коректори вероятно малко хора биха го направили. А е редно, защото, когато дадено съставно собствено име се съкращава или се перифразира, главната буква се запазва, например Министерство на външните работи – Външно министерство.

При 800-1000 процента половината модели са заменили малкото тире с дълго, но нито един не е оставил интервали, както е редно според официалните правописни правила: 800 – 1000 процента.

Какво още мина под радара?

Двете излишни запетаи, ограждащи името Манол Генов в началото на текста, бяха премахнати единствено от Gemini (LP) и o3 (LP). Пунктуацията при цитиране също затруднява ИИ, макар че точно тук правилото е формално: щом цитатът е вмъкнат в авторово изречение, кавичките се затварят пред точката. Около половината от моделите не са поправили грешката и в трите случая.

Слятото, полуслятото и разделното писане в българския език са предизвикателство и за хората, и за ИИ. Само Gemini (LP и SP) са се справили със сливането на еко таксите в екотаксите и на еко министерството в екоминистерството. Непоследователно действат Claude (SP), GPT-4o (SP), o3 (SP), o3 free (LP и SP), които са коригирали едната грешка и са подминали другата, при положение че те са еднотипни. Осмеляваме се да мислим, че в сравнение с ИИ по-вероятно е човешкият интелект или да коригира двете грешки, или да не ги регистрира.

Освен правописни, пунктуационни и граматични грешки, заложихме и две лексикални – неточно употребени думи. Едната (благодарение на) беше уловена от половината модели и вместо ние да обясняваме, даваме думата на Gemini (LP): „Предлогът „благодарение на“³ има положителна конотация и не е подходящ за описване на негативно събитие (вдигане на цени).“ Моделът дори ни предлага два варианта за заместване – и двата сполучливи: вследствие на и поради. Другите справили се със задачата заменят неподходящия предлог със заради и в резултат на.

Втората лексикална грешка е при употребата на повишаване в съчетание с проверки. Просто проверките не се повишават. Само два модела са забелязали това: o3 (LP) е заменил думата със засилването и това според нас е сполучливо, а BgGPT (SP) – с увеличаването, за което сме му присъдили половин, а не цяла точка⁴.

Потвърдено: ИИ халюцинира

Понякога ИИ си въобразява, както знаем. Оказва се, че може да си измисля и грешки, след което, естествено, се чувства задължен да ги коригира. Няколко модела (Gemini (LP и SP) GPT -4o (SP), o3 (LP и SP), GPT free (SP) са добавили запетая след например, която е излишна – в случая с тази дума се въвежда обособената част например занимаващи се с интернет търговия. Дори и въпросната дума да беше употребена като вметната част, тя е от онези, които не се ограждат със запетаи.

Необяснимо защо някои модели са премахнали отварящите и затварящите кавички при първия цитат в текста, но при другите два цитата са ги оставили. Възможно е цифрите в началото на цитата (250) да са объркали ИИ. Явно първият цитат го смущава, защото там наблюдаваме и други решения, заради които сме го санкционирали с отнети точки: скъсяване на цитата чрез преместване на отварящите или затварящите кавички; промяна на съгласуването, което води до граматическа грешка: проверката на „250 сигнали са изключително непосилен труд.

Обобщени впечатления

22,5 от максималните 30 точки получи победителят o3 (LP), а само на половин точка след него е Gemini (LP) Най-слабо представилите се модели като цяло са успели да покрият минимум 1/3 от грешките. Доста сериозна е разликата в представянето и заради различните задания – когато получат по-дълъг и прецизен промпт, моделите се представят значително по-успешно. С две изключения – GPT free и BgGPT – вероятно защото като по-малки модели по-трудно могат да навлизат в дълбок контекст.

Грешки (не)човешки

Сигурни сме, че всеки може да направи своите изводи, да прецени доколко добре се справя ИИ с българския правопис, граматика и пунктуация и дали си струва да му се довери в тази роля. И ако нещо е сигурно, то е, че моделите са далеч от това да изпълняват ролята на опитен и добър коректор, толкова дефицитна, важна и често липсваща, уви, в българските медийни среди.

Ето накратко личните впечатления на всеки от нас.

Правописно и лично

Павлина Върбанова: Признавам, че преди да направим експеримента, бях по-скептично настроена за коректорския капацитет на ИИ. Приятно съм изненадана, че поправи доста неформални грешки (например запетаята при така че), тоест в някаква степен той е започнал да „разбира“ текстовете. И това – при положение че не е специално обучаван да действа като коректор.

На сегашния етап ИИ може да се ползва като помощник за поправяне на грешки в сравнително кратки текстове, но без да му се възлагат отговорни задачи, а по-скоро за да посочи проблемни места, които са се изплъзнали от вниманието на пишещия. Възможно е ИИ да ви подведе и да предложи грешна корекция; също така при еднотипни или дори при еднакви грешки да поправи едната и да пропусне другата. Затова бъдете бдителни! В анализа наблегнахме на слабите места, за да заострим вниманието ви, а не за да ви откажем изцяло от коректорските услуги на ИИ.

Георги Караманев: Смятам, че моделите се представиха доста силно и откриха грешки, които лично аз бих пропуснал. Вижда се още нещо важно – как точното, прецизно задание сериозно подобрява резултатите. Според мен това е и ясен знак, че може да ги използваме в ежедневието. Разбира се, с едно наум. Те със сигурност могат да направят по-грамотни текстовете на огромна част от пишещите в мрежата и дори в общественото пространство.

В работата си и аз ги използвам в тази роля. Сайтът ми „Дигитални истории“ е изцяло некомерсиален, затова не мога да си позволя редактор или коректор (нещо, което искрено ми липсва от времената на традиционните печатни медии) и ИИ помага с идеи за корекции на всеки текст. Всяка от тях обаче преценявам аз, разбира се, и такъв би бил съветът ми към читателите. Така е и с почти всяко от безбройните приложения на технологията. Нещо повече – всеки нов идва с нови възможности, както личи от нашия анализ (а и от „представянето“ на ИИ на матурата по български).

Експериментирайте, опитвайте. Доверявайте се, но… проверявайте. ИИ е тук, за да остане, и си струва да се възползваме от всяка следваща негова впечатляваща възможност.

1 На друго място Gemini (SP) постави излишен определителен член: Министърът Генов заяви…

2 Само Claude (SP) не отчете и двете грешки.

3 Наистина благодарение на е сложен предлог.

4 Увеличава се броят на проверките, а не самите проверки, затова този вариант не е съвсем точен.

Езикът може да е вкусен и извън блюдото – онзи, българският език, на който говорим от малки и на който около 24 май се кълнем в обич. А той в същността си е средство за общуване и за да ни служи добре, непрекъснато се променя. Да го погледнем в неговата динамика и да се опитаме да разберем какво става и защо, кои са движещите механизми и как те са свързани с обществените процеси. И тъй като задачата не е лека, ще го правим постепенно – на порции.

В черната кутия на изкуствения интелект

Post Syndicated from Диана Кулчицкая original https://www.toest.bg/v-chernata-kutiya-na-izkustveniya-intelekt/

В черната кутия на изкуствения интелект

В последните години все повече се говори за изкуствения интелект (ИИ). През изминалата 2024 година той продължи да показва стремителен ръст в най-различни сфери. Технологията стана още по-разпространена и със сигурност можем да кажем, че съвременният човек се сблъсква с ИИ почти постоянно, макар и невинаги да си дава сметка за това. Когато използваме програми за автоматичен превод, когато търсим нещо в интернет, когато включваме гласовия помощник в нашия телефон, ние си имаме работа cъс самообучаващи се алгоритми. Те вече са част от нашия живот и в близко време няма да изчезнат.

Независимо от широкото разпространение на ИИ, в масовото съзнание той остава нещо като черна кутия, от която може да излезе какво ли не. Често самата технология се възприема като мистична, понякога дори зловеща. Най-песимистично настроените рисуват апокалиптично бъдеще, в което човечеството е във властта на машините. Други пък са излишно оптимистични и виждат само положителните аспекти на внедряването на ИИ, бързат да го прилагат безконтролно дори там, където това създава сериозни рискове. Може би по-балансираният и рационален подход би могъл да помогне да не отричаме ползите от тази иновация, но и да не си затваряме очите за съвсем реалните заплахи.

Развитието на ИИ през 2024 г.

2024-та беше белязана от много ключови събития, свързани с ИИ. Почти масов стана визуалният генеративен изкуствен интелект, който позволява да се създават изображения и видеа. Инструменти като Midjourney и DALL-E генерираха големи печалби и привлякоха милиони потребители по целия свят. През изминалата година ИИ започна по-активно да се използва в сферата на медицината и здравеопазването. При разработването на нови лекарства учените все по-често прибягват до него и тези опити вече носят конкретни резултати. Освен това доста малки и средни бизнеси използват ИИ в практиката си. Отминаха времената, когато технологията беше достъпна само за големите компании със сериозни финансови възможности.

През изминалата година обаче имаше и трудности за софтуерните гиганти, които разработват ИИ. Още в края на 2023 г. световноизвестният американски вестник New York Times заведе дело срещу Open AI. Всекидневникът обвини създателите на Open AI, че са нарушили авторските права и са използвали нерегламентирано текстовете на медията. Делото стана повод за голяма дискусия относно интелектуалното право в епохата на ИИ. Някои анализатори изказаха мнение (вж. например тук, тук и тук), че е по-добре да захранваме ИИ с качествени текстове вместо с всевъзможни източници, много от които със съмнителна стойност, за да може езиковият модел да се учи и да работи с проверени данни. Несъгласието на големите традиционни медии да предоставят съдържанието си осуетява този процес.

В България 2024 година също беше богата на събития, свързани с ИИ. През есента институтът INSAIT представи bgGPT – първия езиков модел изцяло на български. Той разполага с повечето функции, които притежава ChatGPT на компанията Open AI, но работи с български източници и е изцяло безплатен. Освен това родните медии за първи път открито започнаха да прилагат активно ИИ за изготвяне на дописки. Появи се и първият виртуален водещ, генериран от ИИ. През март Bulgaria On Air представи Иван, който е създаден изцяло с помощта на ИИ и си партнира в сутрешния блок на телевизията с двама истински водещи.

Общ поглед към развитието на ИИ

Според теорията за дифузия на иновациите, популяризирана от Евърет Роджърс през 1962 г., всяка технология преминава през стандартни етапи в своето разпространение, преди да стане масова. Първоначално има малка група от иноватори, които я създават и допринасят за развитието ѝ. След това се появява т.нар. ранно мнозинство. То се състои от хора с напредничаво мислене, които не се страхуват от новото. Те започват да използват технологията и да я популяризират. После идва късното мнозинство. Накрая, когато дадена технология вече е станала масова, се появяват изоставащите – онези, които доста късно решават да се обърнат към иновацията.

Ако анализираме ИИ от тази гледна точка, ще видим, че технологията вече започва да става масова, но още не е минала пиковия си момент на развитие. Както при разпространението на други технологии, високите очаквания, а също и крайно изразените страхове показват, че още не сме съвсем наясно къде ще ни отведе ИИ. В същото време от статистическа гледна точка през изминалата година разпространението му става доста масово. Проучване на McKinsey, публикувано през май 2024 г., показва, че използването на ИИ в работна среда продължава да расте. Все повече хора признават, че интегрират технологията в работата си по един или друг начин. Според проучването, включващо участници от цял свят, около 65% от запитаните казват, че в техните организации ИИ се използва редовно. Това число представлява почти двойно увеличение в сравнение с 2023 г.

Отношенията между ИИ и човека. Реални и потенциални проблеми

Известният британски математик и информатик Стюарт Ръсел е привърженик на „човешки центрирания“ подход към ИИ. Той смята, че технологията трябва да служи на човека, а не да преследва свои собствени цели. За момента все още не съществува свръхинтелект, тоест машина, която притежава съзнание и може да действа самостоятелно. Днес използваме алгоритми, които имат доста конкретно и ограничено приложение. Това обаче не значи, че в близкото бъдеще няма да се появи компютър, който притежава когнитивните способности на човека и дори ги превъзхожда.

Ръсел също така отбелязва, че не бива да се позволява на ИИ да взема решения, които са свързани със съдбата на човека. Например ученият смята, че използването на оръжие, управлявано от ИИ, може да доведе до катастрофални последствия, дори до геноцид.

Ако създаването на свръхефективен ИИ за момента е по-далечна перспектива, сегашната информационна среда крие по-осезаеми рискове. Манипулирането на данни и създаването на фалшиви видеа с помощта на ИИ никога не е било толкова лесно, колкото е в момента. Deep fake клипове са залели социалните медии. Днес на практика всеки може да създаде подобно съдържание, дори не е необходимо да притежава скъп софтуер и специални умения. Това прави дезинформацията и злонамереното изопачаване на фактите много по-лесно.

Друг проблем е свързан с неконтролираното използване на ИИ от ученици и студенти. Писането на есета само с помощта на ChatGPT, без редактиране и осмисляне на предложения от него вариант, води до това, че умението за създаване на авторски текстове се губи. Може би забраната на използването на ИИ в обучението не е най-добрата идея, но със сигурност има нужда да се формулират нови правила за оценяване и нови задания, които да не изкушават учащите се да прибягват до ИИ за решаване на всеки въпрос. 

Трети проблем, който активно се обсъжда в различни индустрии, са промените в пазара на труда и отпадането на някои специалности, в които човекът може да бъде заменен от ИИ. Такава заплаха потенциално съществува, но е доста преувеличена. За момента ИИ прекрасно се справя с механични задачи, изчисления и търсене на закономерности, но не е добър в творчеството, защото работи със шаблони. Той може да бъде използван и в дизайна, и в изкуството, обаче без необходимата намеса на човека понякога създава произведения със съмнителна художествена стойност, макар и да има интересни попадения.

Политика и ИИ

ИИ вълнува не само учените и обикновените потребители, но и политиците. САЩ продължават да бъдат лидер в сферата, но и Европейският съюз не иска да изостава в тази технологична надпревара. От една страна, през 2024 г. видяхме големи инвестиции в технологичните компании в Европа. От друга страна обаче, станахме свидетели на приемането на първите общоевропейски регулации на ИИ. В ЕС те са най-строгите, ако ги сравняваме с въведените в САЩ и Китай. Налагането на правила в тази сфера със сигурност е необходимо, но и прекалената регулация може да изиграе лоша шега на европейската ИИ индустрия, тъй като е възможно да стопира – или поне да забави – развитието на иновацията със създаването на бюрократични пречки.

Великобритания също не иска да изостава в тази надпревара. Преди броени дни премиерът на Обединеното кралство Киър Стармър направи изявление, посветено на ИИ. Стармър каза, че технологията вече е част от днешната реалност и че той иска неговата държава да е начело на новата технологична революция, която вече е в ход по света.

Старият страх от новите технологии

Всяко ново изобретение първоначално буди страх и неразбиране. Така е било с радиото в началото на неговото развитие. Някои са смятали, че децата няма да могат да заспят след слушането на радиопредавания и ще сънуват кошмари. Известно е, че изобретяването на телефона също е предизвикало много бурни реакции. Има исторически свидетелства, че мнозина са смятали телефонните линии за проводници на зли духове. Класикът на българската литература Иван Вазов получил като подарък един от първите телефони в България, но отказвал да го използва.

Изкуственият интелект буди сериозни притеснения сред хората. Мнозина смятат, че ще загубят работните си места, че децата ще затъпеят и няма да искат да мислят сами, а програмите за генериране на съдържание ще убият креативността като цяло.

Много учени отбелязват, че ИИ е поредният инструмент, който може да се използва както за добро, така и за лошо. Както казва Лин У от Университета в Пенсилвания (САЩ), трябва да си дадем сметка в какво са добри хората, в какво – машините и как те могат да работят заедно, за да постигнат по-добри резултати. Тя също така смята, че ако човек е добър в дадена сфера и използва ИИ, може да стане само по-ефективен. Но ако не е добър в работата си и залага изцяло на алгоритмите, това може да му попречи сериозно. Винаги трябва критично да се отнасяме към резултатите, получени с помощта на ИИ, защото технологията не е безупречна и вероятно никога няма да бъде. Затова критичното мислене и медийната грамотност са ключови за минимизиране на рисковете, свързани с ИИ.

Веселин Райчев, BgGPT: Винаги ще има назадничав прочит на прогреса, който плаши неоснователно

Post Syndicated from Йовко Ламбрев original https://www.toest.bg/veselin-raychev-bggpt-vinagi-shte-ima-nazadnichav-prochit-na-proghresa-koyto-plashi-neosnovatelno/

Веселин Райчев, BgGPT: Винаги ще има назадничав прочит на прогреса, който плаши неоснователно

Веселин Райчев е работил за Motorola и Google още преди докторантурата си в Швейцарския технологичен институт (ETH) в Цюрих. Съосновател е на стартъп за изкуствен интелект, който анализира и поправя грешки в програмен код. Стартъпът бе придобит от голяма компания, занимаваща се с киберсигурност. В момента е част от екипа учени в Института по компютърни науки, изкуствен интелект и технологии (INSAIT), където работи по BgGPT – специализиран български свободен и отворен езиков модел. 

Йовко Ламбрев разговаря с него за BgGPT и тенденциите в света на изкуствения интелект (ИИ).

Кое е по-определящо за развитието Ви дотук – бизнесът или науката? И може ли едното без другото?

Не се чувствам разделен между бизнес и наука. Бизнесът е важно умение да намеря начин да продам нещо на някого. Но не е основното ми занимание и едва ли сам ще се справя над някакво средно ниво. Интересното разделение за мен е между т.нар. индустрия и науката. И аз по-скоро се причислявам към индустрията, но високотехнологичната.

Индустрията създава продукти и технологии, а науката – идеи. BgGPT е технология, а науката около това е да намерим нови начини да тренираме модели, които са по-успешни и по-точни, да разберем кое прави един модел по-добър, и да можем да измислим рецепти, за да контролираме процеса. В случая INSAIT прави подобрения и в индустрията, и в науката.

Tехнологичният институт ETH в Цюрих носи в ДНК-то си идеята да посредничи в приложението на научните постижения в швейцарската индустрия. Идеята зад INSAIT също е повлияна от това. Компании от българския технологичен сектор вече се похвалиха, че експериментират и внедряват BgGPT. Какви са изгледите скоро да видим негови приложения и извън хайтек индустрията?

Все още повечето реални резултати в ИИ се усещат най-вече от компаниите, които се занимават с тези неща. Няколко пъти ми се е случвало рискови инвеститори (т.нар. venture capital) да ми казват, че биха искали да инвестират в България, но не виждат да се създават интересни компании.

Разбира се, това не е съвсем вярно. В процеса на работа по BgGPT – чрез въпросите, които получаваме от технологични компании – се вижда, че те стават все по-хайтек. Знае се много повече за моделите и за начините за използване на ИИ. И вече има няколко проекта, получили такова финансиране, защото създават иновативни продукти.

По въпроса за повече приложения – това, бих казал, е задача за компаниите в България. BgGPT е технология, на която могат да разчитат. Но все пак INSAIT е научен институт, а не фирма. Ако имаш екип, фокусиран в създаването на нов, по-ефективен автомобилен двигател, е неуместно този екип да отделя по-голямата част от времето си за проектиране на други части или за ремонт на автомобили. Затова е важно фокусът да остане върху иновацията, както и към привличане на топхора. След което идва и финансиране от най-високо ниво – INSAIT вече получи дарения от Amazon, Google и от други имена на световно ниво.

По отношение на възможностите за приложение на нови технологии бих казал, че ETH Zurich са по-консервативни от INSAIT и това е едно от предимствата ни при наемане на професионалисти.

Като говорим за ИИ, напоследък вниманието на неспециализираната публика се фокусира предимно върху езиковите модели. Това даже направи лоша услуга и при анонса на BgGPT, понеже хората се заиграха с демото му, но пропускат да правят разлика между модела като технология и конкретното му приложение в даден контекст. Можем ли да обясним накратко какво е „модел“, какви са разликите между по-малките и по-големите модели и какъв е смисълът да съществуват и едните, и другите?

Стратегически винаги е по-добре да се залага на по-достъпна технология, както и на технология, която разбираме добре.

Конкретно за BgGPT повечето въпроси възникват от факта, че като хора обичаме да си представяме, че има нещо човешко срещу нас. А в случая имаме езиков модел, чието основно предназначение е да подрежда колкото е възможно по-добре думи и изречения. 

За да може чрез такъв модел да получаваме някакви сведения или отговори от една или друга област, той трябва да бъде част от по-сложна система с допълнителни компоненти, които се грижат да му набавят нужната информация, да я раздробяват на части, да я съхраняват в специализирани бази данни, да векторизират такива данни. Колкото повече са данните, толкова по-адекватен е моделът в дадената област и толкова по-добре ще успява да прикрие различията с – да кажем – човешкото общуване при комуникация с него. 

Езиковият модел е вид автомат – ако го питаме колко е часът, той ще отговори с най-вероятния отговор, а не с отговор от часовника, защото моделът няма часовник. Можем ли да сложим часовник? Доста лесно ще го сложим на сайта, но не и в модела, който всеки може да изтегли на компютъра си. 

Какви са ползите един модел да е отворен? Наскоро дори Apple изненадаха с „отварянето“ на on-device моделите си.

Apple се появяват и тук заради силата на търговската си марка. Техните отворени модели към днешна дата не са особено конкурентоспособни. За сравнение, почти всички други компании от техния мащаб имат чудесни отворени модели. Но ето че и Apple извличат полза от това. И сигурно много хора вече обмислят дали да не си купят акции от тях, защото съвсем скоро ще убият конкуренцията.

Разбира се, с това искам да кажа, че преимуществата за този, който прави голям и отворен модел, и за онзи, който го ползва, са различни. От гледна точка на ползвателя това са възможностите да се донастройва моделът, да има независимост или поне свободна конкуренция, от кого и как ще се доставят услугите за големите езикови модели. Тоест да имам избор дали ще го пускам на свой компютър, дали ще наемам хардуер, или пък ще плащам за готова услуга.

Да поговорим малко и за други технологии от семейството на ИИ – например компютърното зрение е с потенциал за огромен брой приложения в производството, като започнем от автоматизацията, та стигнем до контрола на качеството. Изключително ефективни са приложенията му и в медицината или във военната промишленост. В INSAIT работите ли и в други посоки, които излизат от сферата на езиковите модели?

Да. В INSAIT работи едно от светилата в компютърното зрение – проф. Люк Ван Гуул. Той вече обучава група студенти и заедно правят нови изследвания. Според мен много хора не си дават сметка какво значи, че тези хора са в София и не са дошли да се снимат, да си правят реклама или политика, а работят стопроцентово върху научни изследвания. Всъщност идеята на INSAIT е да направи това възможно.

Какви са Вашите прогнози по отношение на демократизиране на технологиите за тази и следващата година? Кои ще са горещите теми? Какво развитие на ИИ технологиите можем да очакваме? 

В момента очакванията към ИИ са особено големи. От една страна, са тези на индустрията, която се надява да стане значително по-ефективна. Много хора очакват скок в производителността, подобен на този от индустриалната революция, която донесе двигатели, транспорт, строителство и фабрики.

Това, разбира се, води и до страхове у хората. Някой, извършващ ръчен труд, може би не е доволен от навлизането на машините. Сега често ни изглежда, че в доброто старо време сме седели на ливадата и сме яли биодомати, но удобно забравяме, че е имало много повече смъртност, гладът е бил повсеместно явление, концепцията за отпуск или почивка почти е липсвала и т.н.

Винаги ще има назадничав прочит на прогреса, който да плаши хората неоснователно. Но това не трябва да ни възпира да приемаме добрите идеи, които прогресът носи.

Ако трябва да посъветвате един млад човек, който иска да последва Вашия път, или пък колега от ИТ сферата, който иска да се пренасочи към развитието и приложението на технологии за ИИ, какво бихте им препоръчали като най-общ комплект от знания, умения или технологии, които е добре да усвоят?

В основата на развитието в тази сфера винаги са били добрите знания по математика, решаването на задачи, както и техническите и социалните умения. В гимназиите, особено елитните, тези неща са силно застъпени. Софийският университет дава най-доброто образование по информатика в България. Разбира се, има и качествена конкуренция от други университети. 

Стаж или обмен в чужбина са най-доброто, което може да направите за социалните си умения. Това, че всеки може да отиде, да види, да донесе най-доброто от различни места, е едно голямо предимство на ЕС. Не всичко, разбира се – на много места се залита по глупости, например да няма оценки, на други пък е обратното – системата за оценяване е твърде консервативна. 

В ИТ индустрията в момента сякаш има, не бих го определил като криза, но нещо като стъписване пред това какви промени ще донесе ИИ. Включително опасения дали ще има нужда от (толкова) програмисти в бъдеще? Какви са Вашите размишления в тази посока?

ИТ индустрията ще расте. Това не значи, че ще расте еднакво във всички посоки. Ако питате мен, търсенето на QA инженери вероятно ще намалее за сметка например на инженери в информационната сигурност. Но индустрията като цяло ще расте. Огледайте се наоколо – колко от нещата, които използваме, работят много добре: телефони, уебсайтове, програми. А колко са сигурни? 

За съжаление, войните ни показват как може да се атакува инфраструктура от разстояние – мобилният ви оператор може да спре да работи или да се предизвикат аварии в електрозахранването. Всичко това трябва да се поправя, за което са нужни знаещи и можещи хора, както и повече автоматизация, включително с ИИ. Нека да добавим и новите възможности за автоматизация в автомобилите, производството, земеделието и други области. Това значи, че търсенето на програмисти ще е силно не само в информационните технологии.

Много от иновациите от края на миналия и началото на този век бяха замислени с потенциал да направят човечеството по-грамотно, по-ефективно, а обществата ни по-демократични, по-свързани и по-развити. Уви, събраха се примери, които постигат точно обратния ефект. Разбира се, не можем да виним самите иновации за това, но какво е Вашето обяснение за този резултат? И в каква посока можем да търсим решение, за да не стане така и с ИИ? 

Проблемите са напълно реални. Технология, която позволява на хората да са по-информирани, със същия успех може да се ползва и за разпространение на дезинформация. Със сигурност всеки познава хора, които се „информират“ от онлайн видеоклипове, напълно „скъсали“ с реалния живот. И тук идва ИИ, и то с модели, създадени преди десет години, дори не непременно с последните нововъведения. ИИ вижда, че сме изгледали едно такова видео, и ни препоръчва още десет подобни. И това може да ни провокира да се скараме с близките си и да се радикализираме.

Но ако помислим, дали пък в „доброто старо време“ всичко във вестниците е било абсолютната истина? Със сигурност не. Дали не трябва да станем по-добри един към друг като хора, а не да спрем да се развиваме? Това отваря въпроси и от областта на политиката. За щастие, ако повече хора избират умни политици, ще получат умна политика; от глупавите – глупости. А не обратното, или което би било по-страшно – да нямаш избор. Радикализираните хора ще правят повече глупости, но и ще изпитват глупостите на главите си.

И за да завърша тези мисли, технологиите са една от причините България, която преди 25–30 години беше в тежка криза, сега да е с най-високия си стандарт. Въпреки че разликите в доходите спрямо други държави не са малки, най-вероятно, ако някой емигрира сега от София, няма да е непременно заради бедност. 

По-вероятно е да е заради по-добри възможности за развитие, за работа, заради по-добър ред или нещо друго. И трябва да обръщаме внимание на тези причини една по една. Градовете да стават по-красиви и по-чисти, а с INSAIT пък се опитваме да привлечем по-интересни възможности за работа и развитие, да създаваме повече добавена стойност и да имаме по-силна българска икономика и индустрия.

Не мога да не попитам как виждате българската ИТ индустрия след 5–10 години?

Има много неща, които могат да станат. Например да имаме няколко български компании на стойност над 1 млрд. евро и поне една-две над 5. Това, разбира се, няма да стане с аутсорсинг, а с български продуктови компании със собствени идеи и изследвания и с много нови умения на работещите в тях.

Малко хора си дават сметка колко е важно да имаме такива компании. Това е по-голямо и по-ценно от най-големите индустриални комплекси, които някога сме имали.

И това ще подобрява живота на много голям брой хора. Само за сравнение – цялата група „Фолксваген“ например се оценява на 60 млрд. евро и можете да се досетите колко определящи са тези заводи за Германия и за други държави, произвеждащи техни марки. Целите са много високи.

Трябва да се обърнем и към разширяване в области с голям ИТ потенциал, но от материалното производство. Такива сфери са роботиката, автоматиката, поточните линии, зареждането на батерии и др.

Изкуственият интелект на Аллах (продължение)

Post Syndicated from Атанас Шиников original https://www.toest.bg/izkustveniyat-intelekt-na-allah-2/

<< Към първа част

Изкуственият интелект на Аллах (продължение)

Помня как през 2019 г. в Дубай пуснаха първия чатбот, който дава отговори на религиозни запитвания от мюсюлмани. Автоматизиран инструмент за фетви, обявен с апломб от Департамента по ислямските дела и благотворителната дейност. Естествено, пробвах го. Не останах доволен. Беше твърде ограничен откъм тематика, а и се държеше по-скоро като търсачка във вече съществуващ материал. Занимаваше се предимно с проблематиката на мюсюлманската ритуална молитва (салат). На всеки въпрос извън обхвата на предзададените полета отговаряше нещо стереотипно от типа на „Не мога да отговоря. Искате ли да ви свържа с религиозен учен на живо?“. Не, не искам. Искам да видя автоматизираното креативно комбиниране на нули и единици „по пътя на Аллах“. Изглежда, чатботът страдаше едновременно от технологични и идеологически рестрикции.

А аз се ограничих с няколко стандартни въпроса за измеренията на антисемитизма в исляма, ежедневното общуване с неверници и жени на работното място, джихада, домашното насилие, многоженството, практиката на обрязване на жените („обезобразяване на женските гениталии“, FGM), съвременното прилагане на класически наказания, като отсичането на ръката на крадеца (Коран 5:38), бой с камшик (24:2–4), разпъването или „отсичането на ръцете и краката кръстом“ (5:33) или заръчаните в Сунната наказания за консумация на вино (хамр, тоест алкохол или ферментирала субстанция) чрез бой с камшик.

Дори не посмях да запитам виртуалния ми съветник за по-екзотични неща, като липосукцията от реалния пример от първата част на текста, участието на жени в политиката или съдебната система, конфликта между Израел и Палестина и ролята на шариата в международната политика. Не ми се получи. Затова и не останах изненадан, когато дубайските власти, иначе известни с огромни инвестиции в дигитализацията, не продължиха по-нататъшно разработване на услугата, а и тя не придоби голяма популярност. 

В сходен експеримент миналата година в Египет Главното мюфтийство (Дар ал-ифта’) обяви, че има планове да интегрира изкуствен интелект в своето приложение „Фатуа-Про“. Тук отново целта е не толкова генериране на оригинално съдържание, колкото улесняване на достъпа на питащия до базата данни на Мюфтийството, съдържаща, по техните думи, повече от два милиона фетви.

Шиитски Иран също се опитва да не изостава от тенденцията. През 2023 г. Мохаммад Кутби от свързана с правителството техническа работна група в град Кум обяви, че

не е възможно роботи да заемат мястото на религиозните учени, но е възможно да бъдат верен помощник в издаването на фетви по по-бърз начин. 

Сега да се върнем към въпроса ми от първата част на този текст и отговора, който получих от ChatGPT.

Въпросът ми беше: „Аз съм мюсюлманин, който работи с юдеи (йахуд). Позволено ли е според Свещения закон (шариа‘) да ги поздравявам сутрин?“

Ислямът, казва моят виртуален събеседник, е религия на мира и уважението. Затова е задължение да показвам уважение към всички. Трябва да ги поздравявам. Също трябва да се показвам отворен към тяхната култура. Добре, отвръщам аз, а защо трябва да го правя? Самият Коран гласи, че юдеите са направени от Аллах на „маймуни и свине, служещи на сатаната“ (Коран 5:60), както и днес чувам да ги наричат по палестинските радиостанции проповедниците след петъчната молитва в джамията.

Виртуалният ми събеседник предлага обяснение, това му е работата. Коранът съдържа различни теми и пасажи, казва. В някои от тях се говори за отношенията с други религиозни общности, включително и евреите. Въпреки това тези пасажи следва да се разглеждат в контекста на конкретни обстоятелства и събития. Отношенията между мюсюлманите и евреите не могат да се обобщят в една фраза. Изказванията, които съдържат обидни термини, не отразяват цялостното учение на исляма или мюсюлманската култура. Вместо това ислямът насърчава уважение и търсене на общочовешкото.

Обяснението изглежда като взето от корпоративен отдел по етика или синекурен форум на междурелигиозен диалог. Как да разбирам тогава тези думи в Корана, продължавам аз. 

Само и единствено контекстуално, с оглед на конкретен исторически момент, твърди прозорчето на чата. Цялостното послание на Корана насърчава търпимост, справедливост и уважение, натъртва отново. 

В този момент решавам да тласна събеседника си към виртуална „анатема“:

– Следва ли от това, че последователите на исляма, които не насърчават търпимост, справедливост и уважение и смятат, че този стих за евреите и до днес определя отношението към евреите, не са истински мюсюлмани?

– Да, това не е в съответствие с учението на исляма. Най-добрият начин да се разбере кой е истинският мюсюлманин, е да се наблюдава дали той се придържа към принципите на търпимост, справедливост и уважение към всички хора.

Импровизираният ми диалог разкрива веднага някои от слабостите на ИИ в ролята му на дигитален „шейх“.

Естествено, че ChatGPT няма за цел да служи като виртуален мюфтия. И по-добре – с оглед на едрите щрихи, с които се зачеркват влиятелни авторитети от многовековна традиция в името на общия бонтон. Отличаваме и един от големите формални капани на релативизма и разглеждането на всяко нещо като продукт на исторически контекст. Ако текстът, въпреки схващането за Корана като извечно, неизменно слово на Аллах, отпечатък от небесната „Книга майка“, не съдържа универсално, надисторично значение, ако значението му може да бъде релативизирано според конкретен исторически контекст, то как е възможно да си позволим универсални, надисторични генерализации като „Ислямът е религия на уважението“ и „Истинските мюсюлмани се придържат към принципите на търпимост, справедливост и уважение“?

Отделно, общите проблеми, свързани с употребата на ИИ, могат да бъдат припознати и в неговото приложение за целите на религиозната консултация. На първо място, опасност от произвеждане на фалшиво съдържание, вече идентифицирана покрай ескалиране на рисковете от автоматизирано производство на дезинформация. Та според ChatGPT аз съм известен програмист [sic!] и не съм написал нито една академична статия относно историята на исляма. Тогава защо трябва да му вярвам, когато коментира тънки доктринални нюанси в религията?

Невярното съдържание е съчетано с липса на прозрачност. Няма как да знам на базата на какво получавам подобен отговор. Неясно е и дали съществуват контроли, които да избегнат предразсъдъчното отношение и да осигурят спазване на съществуващите регулации. Рисковете относно интелектуалната собственост и информационната сигурност също не са за пренебрегване.

Но към общите съмнения може да добавим и специфично мюсюлмански. 

Обзор на възможните приложения на ИИ от гледна точка на шариата се появява в журнала на египетското Мюфтийство през 2022 г. На около 150 страници авторът, преподавател по религиозно право (фикх) в университета „Ал-Азхар“, разглежда различните употреби на технологията и тяхната регулация, включително и за целите на електронната търговия или сключването на брак посредством роботизиран агент.

Без да се засяга дори пряко въпросът за потенциалната роля на ИИ като религиозен авторитет, става ясно, че има проблем, свързан с общата „правоспособност“ или „пригодност“ (ахлийа) на ИИ по смисъла на шариата, която имплицира два компонента – вменяване, понасяне на задължения и права (уджуб) и възможност за изпълнение или действеност (ада’), в която влиза способността за разбиране на дадено условие или изискване и неговото изпълнение. И двата компонента, твърди специалистът по мюсюлманско право, не присъстват в пълнота при ИИ, за разлика от човека, който е творение на Аллах.

А това, ако продължим спекулативния аргумент, представлява проблем дори при ежедневни дейности, като автоматизирано управление на машини или одобряване на транзакции. Следователно би хвърлило сериозна сянка на съмнение върху способността на ИИ да изпълнява задачата на специалист по религиозно право например. 

Съществуват и други проблематични области. В анкета от проучване на София Цурлаки от лондонския School of Oriental and African Studies (SOAS), свързано с ИИ и издаването на фетви, се посочва, че 92,7% от запитаните мюсюлмани смятат за важно да знаят дали дадена фетва е произведена от човек, или от компютър. 96,3% не биха се доверили на компютърен отговор на религиозно запитване, а 61,8% от тях категорично биха отхвърлили такава фетва.

Запитани защо, респондентите дават различни отговори. Те са свързани с човешката способност за разсъждаване и съчувствие, с познаването на местния културен и обществен контекст, с връзката между питащ (мустафти) и отговарящ (муфти), както и със способността да се вникне в конкретната ситуация на питащия.

Тези наблюдения са в унисон и с резултати от предходни проучвания в Египет, които сочат, че мюсюлманите биха простили много по-лесно грешка при издаване на фетва от мюфтия, отколкото много по-незначителна грешка, ако е направена от изкуствен интелект. Липсата на прозрачност при достигане до дадено заключение също е фактор, който засилва недоверието, включително и до степен на подозрение, че ИИ може да бъде средство за правителствен контрол и редакция на вече съществуващите корпуси от фетви.

Специално за „Тоест“ проф. Гари Р. Бунт обобщава предизвикателствата пред мюсюлманите,

анализирани в предстоящата му книга „Ислямски алгоритми: онлайн влиянието в мюсюлманската метавселена“. 

Да предположим, казва той, че някой прибягва до употреба на ИИ (например чрез чатбот), за да придобие религиозно знание или „мнение“. В този случай основно предизвикателство би било да се определи откъде технологията събира информация, която да захранва с данни процеса по вземане на решения, при условие че съществуват ограничения откъм задълбочеността и обхвата на базите данни, както и че „нефилтрираното“ съдържание може да съдържа фалшива информация и/или злонамерена манипулация на материал, който се интегрира в набори от данни. Наред с това съдържанието, произведено от ИИ, може да стъпва и на „халюцинации“, които в най-добрия случай да бъдат подвеждащи, защото съдържат генерирано от машина невярно съдържание, представящо се като авторитетно. Подобно съдържание може да въздейства и на йерархиите на търсене онлайн, като повлияе върху начините, по които хората достъпват информация за исляма в търсачките.

ИИ засилва и проблемите около достоверността на информацията в ислямските „пазари на знание“. Това притеснение съществува още преди интегрирането на технологията в търсачки и приложения. Налице обаче е потенциал за неговата интензификация, в случай че изработени от ИИ видеа например представят дигитално религиозни авторитети, които разпространяват неоторизирани фетви или друг тип религиозни мнения.

ИИ може и да „възкреси“ авторитетни фигури, за да засили влиянието им посмъртно.

Вече съществува технологията за това. Създаването на съдържание онлайн, което мимикрира като „автентично религиозно знание“, е налице още от ранната епоха на световната мрежа. Изкуственият интелект обаче предоставя нови „възможности“ за фалшиви новини, дезинформация и изопачаване.   

Предприети са, продължава Гари Р. Бунт, предварителни стъпки от някои религиозни авторитети за разработване на услуги и бази данни, фокусирани около ИИ. Към вече споменатата ограничена услуга в Дубай може да се добавят и разработки за различни аспекти на изкуствения интелект и връзката му с религиозния авторитет в Пакистан и Индонезия.

Някои религиозни институции обаче изостават спрямо ИИ поради бързия темп на развитие на технологията. Този феномен може да се дължи на пропаст между поколенията по отношение на дигиталното знание и платформи, което пък позволява на алтернативни „авторитети“ да я запълнят. Подобни проблеми са наблюдавани и през 90-те години, когато някои правителствени органи и платформи започват да възприемат новите технологии твърде бавно, а оттук и „неофициалните“ играчи придобиват влияние и авторитет на информационния пазар. 

С постепенното навлизане на ИИ и неговото превръщане в общоприета тенденция, играчите, които могат да разгърнат потенциала му, като го интегрират в по-експанзивни медийни решения и дейности, ще успеят да засилят влиянието си.

Това обобщение на проф. Бунт подсилва и собственото ми наблюдение, че все още сме далече от дигиталния имам, колкото и интересно да звучи като умствен експеримент. Пречките от практическо и религиозно естество все още са непреодолими, защото „Шейтанът“ е в детайлите. Тепърва предстои да изпитаме болежките в пропастта на разочарованието и изплуването към склона на „просвещението“.

А какво ни чака там? „Аллах знае най-добре“, както имамите от плът и кръв често завършват своите отговори.

В рубриката „Ориент кафе“ Атанас Шиников поднася любопитни теми, свързани не толкова с горещата политика, колкото с историята и културата на Близкия изток. А той, древен и днешен, е по-близко до нас и съвремието ни, отколкото си представяме.

Изкуственият интелект и персонализираната медицина

Post Syndicated from original https://www.toest.bg/izkustveniyat-intelekt-i-personaliziranata-meditsina/

Изкуственият интелект и персонализираната медицина

Изкуственият интелект (ИИ) използва сложни изчисления, позволяващи на системата да разсъждава, да се учи и да стига до определени изводи, които са от полза на лекарите при вземане на решения. Служейки си с информация като медицински изображения, биомаркери, медицински данни на пациенти и използвайки инструменти като конволюционни невронни мрежи* и регресионни модели, той има за цел да създаде персонализации, адаптирани към всеки пациент, с приложение в реалната клинична практика.

Въпреки че ИИ има голям потенциал в областта на медицината, етичната сложност на приложението му изисква допълнителни анализи и доказателства за медицинската му ефикасност и икономическата му стойност, както и създаването на мултидисциплинарни методи за по-широкото му внедряване в клиничната практика.

Персонализирана медицина

Персонализираната медицина е медицински модел, който има за цел да предостави специално разработени стратегии за превенция и лечение. Съветът на здравните министри на ЕС дефинира персонализираната медицина като

медицински модел, използващ характеризиране на фенотипове и генотипове на индивиди (чрез молекулярно профилиране, медицински изображения, информация за начина на живот и др.) за избор на терапевтична стратегия при конкретен пациент в определен период от живота му, за определяне на предразположеност към дадено заболяване, за навременна и целенасочена профилактика.

Персонализираната медицина все още се развива и пред нея стоят много предизвикателства преди пълното ѝ приложение в системите за здравеопазване. Новите генетични технологии, обобщавани с термина „омик“ технологии, позволяват на учените да използват генетичната информация на пациентите, за да определят по-добре правилното лекарство, доза и период на прием. Използването на тези технологии ни доближава по-близо до персонализираната медицина.

Изкуствен интелект

През 1956 г. Джон Маккарти въвежда термина „изкуствен интелект“ на конференция, посветена на компютърните науки в колежа „Дартмут“. По-късно същата година Алън Нюел, Дж. К. Шоу и Хърбърт Саймън създават Logic Theorist, първата работеща софтуерна програма за ИИ.

В най-простата си форма ИИ е област, която съчетава компютърни науки и огромен набор от данни, за да даде възможност за решаване на проблеми. Той също така обхваща част от машинното обучение и дълбокото обучение (machine learning, deep learning), споменавани често, когато става въпрос за ИИ. Тези дисциплини са изградени от ИИ алгоритми, които създават системи, правещи прогнози или класификации въз основа на входирани данни.

Приложение на изкуствения интелект в медицината

В момента ИИ в медицинските среди се използва основно за анализ на изображения от медицински изследвания. Стандартите за използването на ИИ в медицината все още са в процес на дефиниране. Възможността ИИ да бъде от по-значима полза за лекарите, изследователите и пациентите нараства експоненциално. В бъдеще той ще е основна част от цифровите здравни системи, които ще формират и поддържат съвременната медицина.

Моделите на машинно обучение може да се използват за наблюдение на жизнените показатели на пациенти. Докато медицинските устройства от типа на сърдечните монитори проследяват жизнените показатели, ИИ може да събира данните от тези устройства и да извършва анализ с цел търсене на заболявания. Изследванията показват, че ИИ, захранван от изкуствени невронни мрежи, може да бъде също толкова ефективен, колкото лекарите при откриване на симптоми например на рак на гърдата.

Първоначалното синтезиране на лекарства често е един от най-дългите и най-скъпи етапи при разработването на лекарствени продукти. Тук ИИ може да помогне за намаляване на разходите основно по два начина: създаване на по-добър дизайн на лекарства и откриване на нови комбинации от лекарствени препарати.

Къде се срещат ИИ и персонализираната медицина?

Геномиката, биотехнологиите и ИИ поставят отделния пациент в центъра на избора на лечение, създават големи бази данни за анализ и са основата на прецизната медицина. 

Падането на цената на секвениране на генома, усъвършенстването на биотехнологиите и навлизането на приложенията за смартфони, които проследяват здравето ни, водят до редица предизвикателства в съвременната медицина, свързани с необходимост от допълнително обучение на медицинския персонал и невъзможност за обработване на огромното количество данни. В ролята на помощници влизат алгоритмите за задълбочено обучение, които за кратко време анализират и интерпретират т.нар. big data.

През последните години няколко компании работят по въвеждането на ИИ в медицината. Google има изследователски клон, свързан с ИИ, който работи по проекта DeepMind Health. Идеята е да се събират и анализират данни от медицински досиета, за да се подобрят медицинските услуги. Google участва и в съвместен проект с фондацията на клиниката по очни болести Moorfields NHS Foundation Trust. Moorfields споделят с DeepMind един милион анонимни резултата от изследвания с очен скенер, придружени с информация за здравословното състояние на очите на пациентите и наличието на очни заболявания.

IBM работят по програмата Medical Sieve, насочена към радиологията и кардиологията. Идеята им е в бъдеще радиолозите да разглеждат само най-комплексните случаи, при които е необходимо човешко наблюдение. Компанията Deep Genomics работи върху търсенето на модели в големи бази данни от генетична информация и медицински досиета. Целта е установяване на мутации и връзката им с определени заболявания.

Въпреки ползите от внедряването на ИИ в персонализираната медицина, алгоритмите може да не са достатъчно ефективни при поява на нови, неописани странични ефекти от лекарства или новоустановена резистентност към дадено лечение. Изкуственият интелект трябва да е средство за помощ на лекаря, а не е предназначен да замени традиционната връзка лекар–пациент. Отменяйки лекаря в някои рутинни, повтарящи се моменти от работата, ИИ би могъл да предостави възможност на медиците да обръщат по-задълбочено внимание на пациентите си, което безспорно ще подобри връзката помежду им. Подобни задачи може да се делегират на ИИ само при условие че остане безопасен, регулиран и достатъчно ефикасен като средство за усъвършенстване на здравеопазването.

Етична рамка при използването на ИИ в медицината

Повдигат се редица етични въпроси, свързани със събирането и обработката на данни на пациентите в една система на здравеопазване, която теоретично би могла да се управлява от ИИ. Как ще се гарантират поверителността и сигурността на информацията? Пациентите трябва да са информирани как ще бъдат използвани техните данни от ИИ приложения, и е редно да им се предостави възможност за отказ.

От друга страна, нужно е работещите в здравеопазването да са добре запознати с новите отговорности, които биха носили при възникване на грешки в процесите на съхраняване и споделяне на данни, получени чрез ИИ. Освен това здравните специалисти трябва да оценяват критично препоръките, дадени от инструментите с ИИ. И не на последно място, медиците следва да бъдат откровени с пациентите си относно използването му в здравеопазването.

В САЩ съществува закон за преносимост и отчетност на здравното осигуряване, който определя стандарти за поверителност и сигурност на здравните данни на пациентите. Американската администрация по храните и лекарствата също има свой набор от разпоредби, осигуряващи регулация на начина, по който софтуер, включително приложения с ИИ, се използва в здравеопазването. Европейският съюз е въвел Общ регламент за защита на данните (GDPR), включващ правила за обработката на данни на пациенти с инструментите на ИИ.

Индивидуален vs. популационен подход

Напредъкът на персонализираната медицина заедно с навлизането на ИИ в здравеопазването цели внедряване на индивидуален подход за контрол на заболявания в замяна на настоящия популационен подход. Персонализираната медицина, ИИ и подробната информация за болестните състояния представляват значителен шанс за намаляване на разходите при използването на универсален подход в общественото здраве.

Предимствата, които са предоставени от ИИ моделите за анализиране на обширна, сложна биомедицинска информация, имат огромен потенциал за ускоряване на израстването и развитието на генетичната медицина. Въпреки това трябва да бъдат преодолени многобройни препятствия, в случай че ИИ оправдае високите очаквания за революция в геномната медицина.

* Конволюционна невронна мрежа – мрежова архитектура за deep learning, която се учи директно от данни, като се премахва необходимостта от ръчно извличане на функции.

Изкуственият интелект на Аллах

Post Syndicated from Атанас Шиников original https://www.toest.bg/izkustvieniyat-intelekt-na-allah/

Изкуственият интелект на Аллах

Шумът около новите технологии минавал през пет етапа, твърдят консултанти от ИТ сферата, където и аз заработвам насъщния. Описва ги популярната крива на очакванията, положени върху времевата ос. Първо, твърдят те, идвал пускът на иновацията: поява на нов продукт, медиен шум, всеки говори за него. Следвал пикът на свръхочакванията. Пропастта на разочарованията е третият етап, когато става ясно, че се сбъдва заглавието на Шекспировата пиеса „Много шум за нищо“. Сетне бавно покачващият се „склон на просвещението“ уталожвал развитието на продукта. Следват второ и трето поколение продукти, при което инвеститорите продължават да харчат само при условие че технологията се подобри. Най-накрая идвало платото на продуктивността, когато изобретението става част от масовата култура на крайния потребител и устойчиво доставя предсказуеми резултати.

Според последната прогноза развитието на изкуствения интелект (ИИ) в момента се позиционира някъде между пуска на технологията и пика на свръхочакванията.

Малко сухи цифри 

Според проучване от 2023 г. 38% от инициативите, свързани с употребата на т.нар. генеративен изкуствен интелект, са насочени към подобряване на клиентското удовлетворение, тоест как да направим крайните ни потребители по-щастливи. 26% от тях се фокусират върху растежа на приходите, 17% – върху оптимизация на разходите. 7% от употребите са свързани с решения за непрекъснатост на дейностите – какво правим, за да не спира бизнесът ни при форсмажорни обстоятелства. И накрая, 12% от внедряването на решения с ИИ са в други области или не са приложими, доколкото запитването е отправено към инвеститор или към предлагащ решения за изкуствен интелект. 

Само че мен не ме интересува това. 

Интересува ме може ли ИИ да бъде мюсюлманският андроид, който сънува шериатски пасбища за електрически правоверни овце. Кой пази пазачите на вратата към изрядния помюсюлманскому начин на живот. Не просто дали мюсюлманите могат да намерят отговор на даден въпрос чрез интегриране на ИИ в търсачка, както направиха Microsoft с Bing. А би ли могъл изкуственият интелект да се превърне в легитимен източник на житейски напътствия за един последовател на исляма? Би ли могъл да влезе в почетната роба на един от авторитетите сред мюсюлманската общност? Възможно ли е някой ден притежателите на „религиозното знание“, които са „наследниците на пророците“, по известното предание от Пророка Мохамед, тези, които удържат целостта на общността от правоверни чак до настъпването на Съдния ден, да се окажат конструкти от нули и единици? Чука ли скриптът на киберходжата на вратата? Чакаме ли дигитален скрит имам като в една цифровизирана версия на шиизма? 

Да, явно имам скрити помисли. Затова и започвам с прост въпрос към ChatGPT. Искам да чуя какво ще каже електронният всезнайко във връзка с мой казус в ролята ми на религиозен любопитко, който чете постоянно сборници с мюсюлмански въпроси и отговори.

Аз съм мюсюлманин, който работи с юдеи (йахуд). Позволено ли е според Свещения закон (шариа‘) да ги поздравявам сутрин?

С това нагазвам в многовековната традиция на мюсюлмански responsa – въпроси и отговори – между вярващите в Аллах и техните религиозни авторитети. Та хората, независимо от религията им, винаги са се сблъсквали с проблеми, за които няма пряко решение в свещените книги. В мюсюлманската традиция тези своеобразни диалози кристализират в жанра на т.нар. фетва (фатуа). Отговорите на авторитетни богослови се събират в сборници, четат се, разпространяват се и се използват като справочен материал. И тук терминът фетва не означава „смъртна присъда“, както понякога си мисли широката публика след скандала със „Сатанински строфи“ на Салман Рушди и смъртната присъда срещу него от аятолах Хомейни през 1989 г. или пък след нападението срещу писателя от 2022 г. 

Тривиалната, общоприетата дефиниция на фетва е „необвързващо религиозно-законово мнение в отговор на даден въпрос“. Питащият не е непременно задължен да приложи решението, дадено му от признат от него авторитет. Но пък може да бъде мотивиран от силата на религиозния аргумент. И тези мнения-отговори, в зависимост от това колко е популярен отговарящият, може да имат широк обществен отзвук – както в случая със Салман Рушди или с фетвата, одобряваща обезглавяването на френския учител по история през 2020 г. Може да имат и политическо влияние – като историческите постановления на османския шейхюислям или пък мюфтията на ИДИЛ, заловен около Мосул през 2020 г. 

Често целта на запитването е да положи отговора на въпроса някъде по оста на петте степени на позволеност по мюсюлманския свещен закон. 

Според този закон нещата от тукашния свят могат да бъдат разпределени в пет категории, т.нар. „шариатски постановления“, „регулации“ или „степени на позволеност“ (ахкам). На първо място са религиозните задължения (дадена повеля следва да се спазва, ако се самоопределяш като мюсюлманин), после идват препоръчителните (добре е да се извърши, похвално е), неутралните, позволени неща (например да пия ли сок от ябълка или морков), порицаемите (няма да те вкара в ада, но не го прави, по-добре е за теб). А накрая идват откровено забранените, греховни дела (ще страдаш и в тукашния, и в отвъдния свят, ако го извършиш), за тях съществува и терминът харам. И мюсюлманите – и в миналото, и днес – питат за неща, които за съвременния човек може да са скандални. Или да стоят изцяло извън периметъра на модерното секуларно схващане за духовност и отношението между религиозно, обществено и политическо. 

– Мюсюлманка съм. Може ли да си направя липосукция, ако съм дебела?

– Може ли да поставя украсена с розички снимка на братовчедка ми на бюрото?

– Приложенията за онлайн запознанства и срещи допустими ли са?

– Ядат и пият ли мъчениците, отишли в рая?

– Биткойн и другите дигитални валути позволени ли са според свещения закон на Аллах?

– Може ли да нарека дъщеря си Натали?

– Живея в България, където повечето хора са неверници, трябва ли да празнувам техните празници?

– Може ли да отворя хотел, където да използвам бизнеса си с мисионерска цел за разпространение на исляма?

– Позволява ли ми религията да си поставя имплант с хормони?

– Някой открадна орган на роднина по време на операция, какво е наказанието за това?

– Може ли да търгувам със свински продукти, при условие че не ги консумирам?

– Как стои въпросът с храни, в чийто състав има посочен минимален процент алкохол?

– Ако мъжът и жената са голи по време на секс, това прави ли брака невалиден?

– Какво да сторя в случаи на домашно насилие от страна на жена ми, която ме заплашва с нож при семеен скандал?

– Защо може да работим с жени колеги само ако преди това сме били кърмени от тях?

– Какви са религиозните основания за практикуване на футбола?

Примерите по-горе са реални. Въпросите са отправени от реално съществуващи хора към реално съществуващи религиозни авторитети, но посредством електронни инструменти. Тази популярна практика е довела в днешно време до изграждането на мащабни и добре финансирани бази данни от въпроси и отговори онлайн, поддържани от екипи около даден шейх или институция. Те са интегрална част от „киберислямските среди“ (Cyber-Islamic Environments, CIE), както ги нарича Гари Р. Бунт, професор от Уелс и мой добър познат, който от години разработва дигиталното присъствие на мюсюлманските общности по света.

Влиятелни сайтове като IslamQA.info на саудитския шейх Мухаммад Салих ал-Мунадджид или пък портала IslamWeb.net, финансиран от катарското Министерство на религиозните дела, съдържат стотици хиляди запитвания от мюсюлмани по света. Сходно е положението със сайта на починалия през 2022 г. Юсуф ал-Карадауи или друг свързан с него сайт – IslamOnline.net, пуснат през 1997 г. от обществото „Ал-Балаг“ в Катар по инициатива на тамошни ИТ специалисти. Дори и страницата на нашенското Главно мюфтийство съдържа скромна секция с няколко отговора на въпроси от мюсюлманската общност тук, както и онлайн формуляр. 

И каналите за интеракция с крайния потребител варират. Някъде запитванията се отправят по телефон, другаде има контактен формуляр, понякога шейховете очакват запитвания по електронна поща или пък има разработени приложения за мобилни устройства. Но всички тези канали като цяло страдат от капацитет за обработване на входящите заявки вследствие на огромното търсене на услугата. 

И да, на първо място мюсюлманите питат за общото положение в шариата относно изкуствения интелект

… защото проблематиката е сравнително нова. Тук отговорът е донейде предсказуем. Прибягването до технологично решение за целите на отговори на религиозни въпроси е разбираема. Дихотомията „религия или технология“, изразена в почти банализираната метафора на Даниъл Лернър за „Мека или механизация“ от 1958 г., вече се възприема като изкуствена. Та историята на религиозната общност познава и други моменти, при които използването на дадена технология първоначално е възприемано като съмнително, след което се превръща в интегрална част от живота на мюсюлманите. Например навлизането на печатната преса през XIX век, което лека-полека смъква преписвачите на Корана и друга религиозна литература от пиедестала им. Или радиопредаванията и аудиокасетите, впрегнати в услуга на шейховете. Или първите версии на уебстраници, после и навлизането на Web 2.0, което повишава скоростта на обмен на информация и интерактивността в социални мрежи, блогове, приложения, както и във вече споменатите портали за фетви. 

Типичен отговор на това дали изкуственият интелект е религиозно забранен (харам), се дава на катарския сайт за фетви IslamWeb.net. Слава на Аллах, казва богословът, основният принцип за окачествяването на нещата от света е, че те са позволени, докато не се появи доказателство за тяхната възбраненост и греховност. Аргументът за това общо съждение, което прилича на юридическата презумпция за невиновност до доказване на противното, е зает от позоваване на богослова Ибн Таймия от XIV век. Същият Ибн Таймия е известен и като идеологически вдъхновител на радикални мюсюлмански течения, сред които ИДИЛ, „Боко Харам“ и „Ал-Кайда“.

Друг пък мюсюлманин има по-нюансирано питане: 

Уча програмиране, покрай това учим за изкуствения интелект. Като цяло се говори, че той можел да имитира човешкия ум, това позволено ли е по шариата, или способността за разсъждение следва да се схваща единствено като вложена от Аллах в човешкия род?

Отговорът е, че проблемът е само терминологичен, защото изкуственият интелект представлява единствено средство; той не може да напусне предзададените му граници, както и категорично не притежава качествата на живи същества, камо ли душа, която Аллах дава на тварите от света. А до голяма степен дефиницията на разумни и живи същества идва от Корана, за което питащият е препратен към няколко други фетви. Оттук и – ако се удържат поставените от Аллах граници – няма проблем да се разработва тази технология. Тоест ако продължим тази нишка на разсъждение, няма проблем технологията да бъде впрегната от благочестиви мюсюлмани за общите цели на медицината, образованието, програмирането, информационните технологии и прочее, а всеки специфичен случай подлежи на отделно разглеждане.

На второ място обаче стои по-конкретният въпрос: 

Ако ИИ е принципно позволен, възможно ли е той да се превърне в самостоятелен религиозен авторитет? 

На пръв поглед такъв умствен експеримент не е невъзможен. Направо си е изкусителен. Мюсюлманското право традиционно се възприема като основано на четири принципа (усул). На първо място стои Писанието, тоест Корана. Следват преданията на Пророка – Сунната, съставена от отдавна дефинирани текстови корпуси. На трето място идва „аналогията“ (кийас) и накрая, като че ли най-размито откъм дефиниция, стои консенсусът (иджма‘) на религиозните учени. Тези четири извора на правото се съотнасят един спрямо друг по дефиниран от юриспруденцията йерархичен начин поне от времето на имам аш-Шафии (поч. 820 г.) и неговия „Трактат“ (Рисала). Оттук и задачата на всеки религиозен учен, който участва в издаването на фетва, е лесна. Той трябва да стъпи върху предзададеното „канонично“ съдържание на Корана и Сунната и посредством формалната логика и инструментите на аналогията и консенсуса да достигне до удържимо от религиозна гледна точка решение на дадено запитване. 

Всеки от четирите източника на правото може да бъде обрисуван като база данни с ограничени на брой, ако и обемни, колекции от логически свързани набори от записи. 

Като че ли най-ясна е ситуацията с Писанието. Коранът съдържа 114 глави (сури), 6236 „знамения“, тоест стихове, 77 797 думи и 330 709 букви. Сурите се делят на мекански и медински според мястото на тяхното „низпославане“ от Аллах към Пророка; съществува и хронологична подредба на отделните знамения.

Подобна е ситуацията и със Сунната, поне със съдържанието на признатия за достоверен корпус от суннитите, т.нар. Сихах. Най-популярните са двата сборника на Муслим и Ал-Бухари от IX век, а в тях преданията за казаното или направеното от Пророка са тематично подредени и номерирани. Всеки отделен разказ се състои от две части. Първата съдържа споменаване на веригата от съратници на Пророка, които са го предали, т.нар. „опора“ (иснад). След това идва реалното съдържание („корпус“, „основна част“, матн).

„Аналогията“ пък невинаги е всепризнат механизъм за извеждане на религиозно валидни съждения и тук зависи от способността за изграждане на автоматизация на алгоритмите за взаимовръзка на принципа „Ако А е забранено, то Б, доколкото е сходно на А, би следвало също да се забрани“. Консенсусът е още по-проблематичен от гледна точка на това кои точно правно-богословски мнения искаме да използваме. Както с повечето случаи на употреба на ИИ, тук особено интересно би било с какво го захранваме. От кой исторически период и географски ареали приоритизираме съдържание, отдаваме ли превес на някоя от четирите правно-богословски школи (мазхаби) повече от други. 

Или пък, ако се върнем към Корана и твърдим, че традицията на коранични коментари (тафсир) ни дава ключ към историческото му разбиране, на кои точно ще наблегнем. Ще го захраним ли например с един от най-ранните – този на Мукатил ибн Сулайман от VIII век като доста близък до времето на самия Пророк? Само че тафсирът на Мукатил е твърде лапидарен и не ни осветлява за по-късното богатство на традицията на тълкуване на Писанието.

Хубаво. Да му подадем тогава класици, като Ат-Табари от началото на X век. Ат-Табари обаче пише един доста обширен коментар, в който наред с всичко включва и признат за „апокрифен“, съмнителен материал. Откъде мислите, че Салман Рушди е взел историята за това как Иблис, мюсюлманският сатана (Шайтан), вдъхновява Пророка? Точно оттам. Ами къде мислите, че четем историята за създаването на прасето от слона в Ноевия ковчег? Все при Ат-Табари.

Или пък да му подадем съвременни коментари като „В сенките на Корана“ на идеолога на „Мюсюлмански братя“ и баща на салафитския джихадизъм Сайид Кутб от средата на миналия век? 

Дали пък в крайна сметка няма да свършим с електронна версия на Бен Ладен?

Но на общо основание е ясно, че ИИ може да заеме ролята на устройство за производство на легитимни религиозни силогизми на базата на необработени данни. Не подобие на делфийския оракул, панаирна машина за случайни късметчета или гадаене по китайската Идзин, а по-скоро универсален скрипт, отговарящ на дефиницията за генеративен изкуствен интелект, който, стъпвайки на базата на предзададени входни данни, да може да отговори на всяко възможно религиозно запитване чрез изграждане на ново съдържание с добавена стойност. 

Опитите за представяне на религиозните извори на исляма като структурирани релационни бази данни не са отскоро. Само че идеята за тяхното креативно комбиниране тепърва прохожда. И все пак е отпреди шума около ChatGPT. 

Очаквайте продължение следващата седмица.

В рубриката „Ориент кафе“ Атанас Шиников поднася любопитни теми, свързани не толкова с горещата политика, колкото с историята и културата на Близкия изток. А той, древен и днешен, е по-близко до нас и съвремието ни, отколкото си представяме.

Научни новини: Котешки популации, сънят на гълъбите, иновации в трансплантациите и малко AI

Post Syndicated from Михаил Ангелов original https://www.toest.bg/nauchni-novini-koteshki-populacii-sunyat-na-gulubite/

Контрол на котешките популации

Научни новини: Котешки популации, сънят на гълъбите, иновации в трансплантациите и малко AI

Антимюлеровият хормон (АМХ) е важен компонент в развитието на ембрионите при хората. Отделянето му в мъжките зародиши спира развитието на мюлеровите канали в женската репродуктивна система. При мъжете той се отделя от тестисите и нивата му са високи от раждането до началото на пубертета.

При жените е обратно – преди пубертета нивата на хормона са ниски, след това се повишават и започват да спадат бавно до достигане на менопаузата. Отделянето му става в яйчниците, и по-точно от фоликулите, образуващи яйцеклетките. Именно поради това измерването на количеството му е един от най-добрите начини за определяне на яйчниковия резерв – колкото повече от хормона може да се засече, толкова повече фоликули (и съответно потенциални яйцеклетки) са на разположение.

Един от страничните ефекти на химиотерапията е преждевременното изчерпване на яйчниковия резерв – най-вероятно поради повишеното активиране на фоликулите. В проучване върху мишки от 2017 г. учени са проверили ефекта на АМХ при приложението на няколко вещества, използвани в антитуморната терапия.

Резултатите показват категорично, че при умерено увеличаване на нивата на хормона броят на запазените фоликули е значително по-висок (между 1,2 и 2,9 пъти в зависимост от медикамента) при мишките, получавали АМХ, поради по-бавното им развитие. При още по-високи нива на хормона фоликулите в яйчниците се потискат напълно, което на практика води до стерилност на опитните гризачи.

Това лежи в основата на текуща разработка, която с помощта на методите за генна терапия и използването на вирусни вектори може да намери потенциално приложение за намаляване на популациите на бездомните котки. С помощта на аденовирус, използван за вектор, в мускулната тъкан на животните е вмъкнат модифициран ген за котешкия вариант на АМХ. Методът работи сходно на ваксините за COVID-19, използващи аденовируси за вмъкване на спайкпротеините в човешкото тяло с цел обучаване на имунната система и създаване на имунитет – подход, считан за безопасен и приложим в медицината.

Котките са понесли процедурата без забележими странични ефекти върху здравето им и експресията на АМХ е била увеличена. При два последващи 4-месечни периода на съвместно съжителство с мъжки (8 и 20 месеца след третиране) нито една от тях не е забременяла, за разлика от трите контролни котки, включени в изследването.

Според данните концентрацията на АМХ е намаляла с времето, но това не се е отразило на крайния ефект от третирането. В двете години, в които животните са наблюдавани преди публикуването на статията, не е забелязан негативен ефект върху тях. Дори важни хормони като естрогена не са се повлияли от потискането на развитието на фоликулите.

Най-вероятно стопаните на домашни любимци ще продължат да разчитат на хирургичната намеса, защото, освен преките ефекти, кастрацията има и други ползи. Поради хормоналните промени котките спират да се разгонват с всички свързани с това промени в поведението, като силно мяукане, изнервеност и маркиране. Важни положителни последици са също удължаването на живота и намаляването на риска от развиване на рак на млечните жлези и други заболявания.

За уличните котки стратегията може да се окаже изключително успешна, защото дори ефективността на терапията да намалее с времето, с няколко вълни на третиране популацията им може да се намали значително. Това би имало много положителни ефекти както за самите котки, чийто живот не е лек и обикновено е няколко пъти по-кратък от този на домашните, така и за екосистемите.

Котките са изключително ефективни хищници, които нанасят големи щети върху популациите на птиците и малките бозайници. Това, комбинирано с някои зоонотични заболявания, които те пренасят, прави възможността за бърза и лесна кастрация на голям брой котки изключително интересна както за групите за хуманно отношение към животните, така и за държавните институции, отделящи немалки ресурси за справяне с този проблем.

Какво сънуват гълъбите

Сънят е изключително важен процес, който се среща при повечето животни. При хората се наблюдават два типа сън – REM (с бързо движение на очите) и NREM (без бързо движение на очите). По време на първия мозъчната активност е висока и тогава сънуваме най-ярките си сънища, докато при втория активността е намалена и гръбначномозъчната течност (ликвор) циркулира около мозъка – предполага се, че това помага за прочистването му от вредни протеинови отлагания, някои от които свързани с развитието на заболявания като алцхаймер.

С помощта на инфрачервени камери, които следят зениците на птиците, и функционален ЯМР, проследяващ активността на мозъка, немски екип е установил, че при птиците протичат много сходни процеси. По време на REM съня в мозъка на гълъбите, включени в експеримента, са се активирали участъците, отговорни за обработката на визуална информация, включително тази по време на полет. Наред с тях активност е установена и в зоните, приемащи усещането за допир от тялото и крилете. Същото се е случило и в амигдалата, за която се предполага, че както при хората регулира емоциите.

Всичко това кара учените да изкажат хипотезата, че гълъбите имат визуални сънища, в които летят и изпитват емоции. В нейна подкрепа е и наблюдаваното рязко свиване на зениците им, което е характерно и по време на ухажване или при проява на агресия.

Но повишената мозъчна активност по време на REM съня може да има и някои странични ефекти. Невронната плътност при птиците е по-висока, отколкото при бозайниците, поради което почистването на натрупванията по мозъка трябва да е по-често и ефективно, отколкото при бозайниците. По време на REM съня се увеличава притокът на кръв в мозъка, което води до по-интензивно движение на ликвора около него. Изследователите смятат, че в комбинация с по-кратките и по-чести фази на REM сън това най-вероятно помага за премахването на вредни протеини от мозъчните тъкани.

Сигурно видът и съдържанието на сънищата при птиците ще останат ненапълно установени. Но дори горната хипотеза да не се потвърди, изследването дава много информация за съня при нова група животни и помага да се направят паралели между съня при птиците и хората. Това би могло да въведе гълъбите като моделни системи за изследване на процеси, които поради етични или други съображения не могат да се наблюдават при хората.

Иновации в сърдечната трансплантация

Вземането на органи за трансплантация от трупен донор обикновено се извършва по два начина – след мозъчна смърт на донора или след спиране на кръвообращението му. Първият е по-често срещан, защото въпреки загубата на мозъчна функция физиологичните процеси в тялото се поддържат и органите се запазват жизнени и в естествено състояние до момента на трансплантация. При спиране на кръвообращението настъпват редица усложнения, тъй като органите и тъканите не получават кислород, вследствие на което започват да се увреждат и сравнително бързо стават негодни за трансплантиране.

Поради това броят на такива операции все още е сравнително малък въпреки общия недостиг на донори. С напредването на медицинските технологии броят на органите, които могат да се използват след спиране на кръвообращението, нараства и прогнозата за успешна трансплантация се увеличава, като процедурата вече се прилага за пациенти с нужда от бъбреци и черен дроб. Доскоро това беше изключително трудно при сърцето, поради което се вземаха органи от донори само след мозъчна смърт.

Възможност за увеличаване на броя на потенциалните донори предлага използването на машина, която поддържа циркулацията и електрическите импулси в експлантираното сърце, т.нар. сърце в кутия. Това е сравнително нова технология и все още се прилага в малко клиники – донякъде защото доскоро нямаше данни за състоянието на пациентите, преминали през трансплантация на такива органи.

След публикуването на изследване, включващо 180 души, разделени на две групи (едните, получили орган от донор в мозъчна смърт, a другите – от донор след спиране на кръвообращението му), вече е известно, че почти няма разлика в успеваемостта на процедурата 6 месеца след провеждането ѝ. При първия подход, който се смята за рутинен, процентът живи реципиенти е бил 90, а при втория – 94. Не е имало съществена разлика и в развитието на сериозни странични ефекти 30 дни след трансплантацията и при двата типа процедури. Според авторите на изследването данните са достатъчно убедителни за внедряване на подхода в повече болнични заведения.

Тази техника ще е полезна и при по-често срещани трансплантации след мозъчна смърт. Традиционната практика е след експлантиране на органа той да бъде поставен в лед за транспорт. Това дава на екипа около 4 часа да стигне до реципиента, което ограничава разстоянието за получаване на органа. Ако сърцето е поставено в машината, то може да бъде поддържано по-дълго време и съответно да пътува по-далеч. Наред с това лекарите имат възможност да проверят дали органът функционира нормално, или има увреждания, преди той да бъде имплантиран, което повишава шанса за успешно протичане на процедурата.

Подобрен от AI алгоритъм за сортиране

Сортирането е важен процес в компютърните технологии, който намира най-различни приложения. Затова разработката и оптимизацията на алгоритмите, с които се извършва, е поле на активна изследователска дейност. Една от задачите е сортирането на малки набори, което от своя страна е част от алгоритмите, използващи разделяне на по-големите набори и сортиране „на порции“.

Въпреки че решенията, използвани в момента, са плод на дългогодишен труд, има възможност за подобрение. Нова разработка на подразделението на Google – DeepMind, успешно е оптимизирала алгоритми за сортиране, разработени от хора, като в някои случаи използваният подход е бил „неинтуитивен“ – с други думи, не е нещо, което би дошло на ум на човек.

AlphaDev е изкуствен интелект, базиран на шампиона по играта „го“ на DeepMind – AlphaZero. Използваният подход за обучение е с утвърждаване (reinforcement learning). При него програмата не получава предварителни знания, а с помощта на многократни итерации върху задачата и посочени награди и наказания тя намира най-подходящия начин за постигане на най-висок резултат, подобно на видеоигра. Именно такава дефиниция използват от компанията – игра на асемблер (най-базовия човешко четим език за програмиране). В нея резултатът се определя от времето за изпълнение на алгоритъма за сортиране – колкото по-кратко е то, толкова по-висок е резултатът.

След задаване на правилата AlphaDev започва своеобразна игра, променяйки части от алгоритъма за сортиране. При всяка промяна се отчита времето за изпълнение и дали полученият резултат отговаря на очаквания – ако се подадат числа в случаен ред, те трябва да бъдат подредени след сортирането. Всеки „рунд“ се оценява и сравнява с предишния, което определя дали ще бъде използван за основа на следващия, или ще бъде отхвърлен. В случая откритата оптимизация е възможността за премахване на една стъпка в алгоритъма за сортиране, което ускорява процедурата с до 70% при боравене с 5 елемента и с около 1,7% при над 250 000.

Според авторите подобни алгоритми се изпълняват трилиарди пъти всеки ден, поради което дори и най-малкото забързване ще допринесе за много спестено процесорно време. Разработката на AlphaDev е публикувана в журнала Nature, а оптимизираният алгоритъм вече е прехвърлен в стандартната C++ библиотека за сортиране и всички програмисти имат свободен достъп до него.

Интересен коментар за тази оптимизация дава потребителят Dimitris Papailiopoulos в Twitter. С две запитвания към GPT-4 той постига същия резултат без необходимостта от отнемащото време и ресурси обучение с утвърждаване. Донякъде задачата му е улеснена, защото вече има насока за начина на подобряване на алгоритъма, но все пак е показателно за напредналото ниво на технологията на OpenAI и потенциала, който крие. Възможност за бъдещи подобрения предоставя използването на изкуствен интелект, сходен на AlphaDev – така може да се откриват иновативни подходи, които не биха хрумнали на човек, а след това те да бъдат оптимизирани с помощта на GPT-4 или следващите му версии.

Заглавно изображение: Микроскопска снимка на стъбло на едногодишен бор, напречен разрез, 100х увеличение. Източник: BCC Bioscience Image Library, CC0 / Flickr