Post Syndicated from Светла Енчева original https://www.toest.bg/sedmitsata-7-12-yuli/

Може да се поздравим – България беше окончателно одобрена за еврозоната, с което евроинтеграцията на страната технически приключва. Занапред, ако има „Европа на две скорости“ и сме в групата с по-бавната скорост, само ние сме си виновни за изборите, които сме направили, и за това, че не контролираме достатъчно избраниците си.

Празничното настроение от приемането в еврозоната обаче беше помрачено от ареста на кмета на Варна Благомир Коцев – по скалъпено обвинение и без доказателства. Как човек да не се сети за избухването на Бойко Борисов на въпроса на журналистката от „Дневник“ Петя Владимирова защо прокуратурата повдига обвинения, а службите разследват само политици от ПП?

Ако имате нужда от по-забавна интерпретация на тези и други събития от седмицата, любимото ни Е.Т. е на вашите услуги:

Продължаваме на вътрешнополитическа вълна с Емилия Милчева и статията ѝ „Тройка премиери с гарнитура“. Тя ни отваря очите за факта, че имаме не един министър-председател, а цели трима – Росен Желязков подписва, Бойко Борисов се показва, Делян Пеевски решава. Няма да издам обаче коя е гарнитурата. Ако искате да разберете, ще трябва да прочетете. Брей, в рима го написах…

В публикацията си „Хоругвата на фундаментализма“ пък Александър Драганов ни обръща внимание върху Българската православна църква, която става все по-активна в обществения живот и се опитва да наложи ценностите си на всички. Според него има защо този процес да ни тревожи – още от времето на социализма БПЦ е свързана с Държавна сигурност, а днес тази ѝ зависимост не е изчезнала, а се е прехвърлила към Русия.

Поне нарасналата роля на православието да ни правеше по-човечни, но уви – в България животът на едни хора продължава да се смята за по-ценен от живота на други. Затова тук не става новина, че пожарът, предизвикал смъртта на семейство български граждани с две малки деца, вероятно е запален от омраза към чужденците. Отношението към трагедията в Золинген показва двойния стандарт на страната ни за малцинствата.

Ако тези размишления ви потискат, предлагам бягство във виртуалната реалност с трета част на дискусията на Миглена Николчина и компания за играта „Киберпънк 2077“. Имайте предвид обаче, че разговарящите не се измъкват от сериозните морални проблеми, тъй че, колкото и да бягате, екзистенциалните размисли все ще ви настигат.

Докато сме в полето на виртуалното, преминаваме към статията на Йовко Ламбрев за изкуствения интелект (ИИ) в две части, чиито заглавия съдържат асоциации с общо три филма: „ИИ: Първородният грях“ и „ИИ: нова надежда или невидима заплаха“. Развитието на ИИ докарва едни до възторг, а други до ужас. Йовко обаче ни помага да разберем тази новост в живота ни по-добре, без да изпадаме в крайности. И да не забравяме важността на хората – и на тези, които създават ИИ, и на ползващите го, и на уплашените, и на вдъхновените.

Впрочем напоследък научих за групата Velvet Sundown, чието творчество (дотук два албума) е дело на ИИ. Зорница Христова обаче ни препоръчва само книги от истински автори. Тази седмица е избрала за нас „И леглото ни е зеленина“ от Виолета Радкова, мемоарите на Людмила Миндова „Ангелът на прехода. Книга за майка ми и за свободата“ и „Шекспир. Мъжът, който плаща наема“ от актрисата Джуди Денч – интервюта с Брендън О’Хий.

И ето, стигнахме и до моите препоръки. Случвало ли ви се е да харесате някоя книга толкова много, че да ви се прииска да сте попаднали на нея още в тийнейджърските си години – във възрастта, в която определени книги са допринесли за формирането на идентичността ви? Е, при мен е така с „Мидълсекс“ от Джефри Юдженидис, която за мой срам прочетох едва миналото лято. И така ми се услади, че като я свърших, я прочетох още веднъж. И още ще я чета.

В сърцето ми романът се настани до произведения на Селинджър, Мишел Турние и Кърт Вонегът. И не, той не е просто деликатна и смешно-тъжна (само)ирония. Нито е единствено за интерсекс хората. Нито за смутната история на Балканите и гръцките имигранти в САЩ. Нито за трансформацията на Детройт от център на автомобилната индустрия в призрачен град. За мен поне книгата е най-вече за това – какво е да си човек и колко сложно нещо е идентичността.

Още една препоръка. Отсега точа зъби за септември, когато ще е Месецът на фотографията на Веселин Боришев. Но за да се състои той, са нужни средства – поне 8000 лв. Тук може да се информирате как да подкрепите начинанието на Боришев, а заедно с това да се сдобиете и с произведение на изкуството.

Разбира се, винаги ще се радваме да подкрепите и нас, защото благодарение на вашия принос съществуваме.

Post Syndicated from Йовко Ламбрев original https://www.toest.bg/ii-nova-nadezhda-ili-nevidima-zaplaha/

<< Към първа част

Популярен мем от интернет фолклора гласи: „Мислех, че роботите ще готвят и перат, за да мога да рисувам и творя, а то пак аз пера и готвя, а те рисуват и творят.“ Смятам, че е много подходящо да продължим във втората част на темата за изкуствения интелект именно с тази шега.

В първата част изяснихме, че благодарение на изчислителните възможности на днешните процесори и големите масиви от информация, с които можем да захраним моделите на ИИ, те всъщност вече превъзхождат човешките способности за осмисляне и преработване на информация. Тези способности на ИИ обаче са изчислителни. Машината не разбира какво изчислява. Колкото и парадоксално да звучи, тя не знае какво прави.

Има фундаментална разлика между това да знаеш, че нещо е вярно като факт – защото така са те учили в училище или са ти го поднесли наготово, както в случая на ИИ, – и да знаеш защо то е вярно.

Разликата е в съзнателното разбиране. Все още не е ясно дали ИИ някога ще бъде способен на това.

(Тук по-добре да спестим колебанията си колко от хората биха могли да прескочат същата летва.)

Нужно ли му е обаче на ИИ да разбира по този начин? За да прави това, което може да прави към днешна дата – не. За да бъде наистина автономен интелект – вероятно да. Смята се, че ако се сдобие с такива способности, ИИ следва да може сам да създава ново знание, надграждайки това, с което вече сме го захранили. Предвид сериозните му изчислителни възможности, човечеството може да има огромни ползи… но и да се изправи пред страховити проблеми. И това, че някаква част от хората биха останали без работа, е най-малкият от тях. Все пак нека не подминаваме повече тази тема.

ИИ и бъдещите професии

Миналата седмица една от компаниите, които се борят за лидерско място в областта на ИИ – Microsoft, – обяви, че уволнява 9000 души. Заедно с други 6000, които бяха освободени предишните два месеца, съкратените служители на корпорацията стават 15 000 само за първата половина на 2025 г. През юни Google, друг лидер в областта на ИИ, анонсира програма за „доброволно напускане“ на служители заради преструктуриране на бизнеса.

Виновен ли е ИИ за това? В известен смисъл – да. Но не точно този, който първосигнално ни идва наум. Знам, че за мнозина би изглеждало справедливо възмездие ИТ хората да понесат част от щетите, които причиняват – не е невъзможно да се случи, разбира се, но… ИИ все още има нужда от хора около себе си, които знаят какво искат от него и как да го напътстват. Причината за горните съкращения е, че големите корпорации се готвят за огромни разходи с едничката цел да останат фактор в надпреварата за по-по-най ИИ. И в следващите месеци ще стягат колана, за да могат да посрещнат безумните инвестиции, които планират да направят за мащабиране на инфраструктурата си за ИИ и… за електроенергията за тази инфраструктура.

Иначе е факт, че ИИ вече програмира доста прилично, но също така е вярно, че прави грешки,

може да сътвори безумни проблеми, особено със сигурността… и най-важното – не е в състояние да носи отговорност за действията си.

Неотдавна самият изпълнителен директор на Google Сундар Пичай сподели, че ИИ вече пише около 30% от кода им, но това води до едва 10% инженерна ефективност. Надали има по-добро признание, че действителността е много по-различна от медийните фанфари по темата. Така че не, програмистите все още не са станали излишни. Даже онези компании, които избързаха да освобождават разработчици, започнаха да връщат част от тях. Но важната думичка е част. А по-важният въпрос е коя част.

Има и друго – в технологичната индустрия през последния четвърт век влязоха твърде много хора, които не носят професията в сърцето си. Те бяха привлечени от парите. Иначе биха се занимавали с друго и в други сфери. Появиха се много церемониални роли, директори на водопади, препращачи на имейли, мениджъри на щастие… След пандемията през 2020 г. някои компании назначиха прекалено много персонал.

Секторът има нужда от отрезвяване и приземяване, но съм скептичен, че точно ИИ ще го побутне в правилната посока. По-скоро се надува нов балон.

Има и структурен проблем. Не само в ИТ сегмента, а почти навсякъде ИИ за момента застрашава предимно роли, заемани от младши специалисти. Формулата за внедряването му често се заключава около концепцията, че увеличената производителност на опитен експерт, въоръжен с ИИ, елиминира необходимостта от млади кадри. Проблемът тук е стратегически, а именно, че перспективата пред младите специалисти да се развият и придобият опит драстично се свива. И съвсем резонен е въпросът какво ще правим, когато старшите експерти с опит станат недостатъчни, а не сме обучили навреме младши. За разлика от ИИ, ние, хората, не се раждаме обучени и ни е нужно време, за да натрупаме знания и най-вече опит.

Ако индустриалните революции дотук влияеха предимно върху ръчния труд, то ИИ поне засега има повече потенциал за приложение в офисите, автоматизирайки предимно интелектуален труд, особено във функции и роли с по-ниска добавена стойност.

Затова опасенията на част от хората за бъдещето, при това за съвсем непосредственото бъдеще, не са нито смешни, нито пренебрежими.

В човешката история винаги са изчезвали едни професии и са се появявали други, съвсем нови. През януари в доклада на Световния икономически форум за бъдещето на работните места се прогнозира, че през следващите пет години се очаква да бъдат създадени 170 млн. нови работни места и да бъдат закрити 92 млн. стари, което означава структурно текучество на пазара на труда от 22% (от 1,2 млрд. официални работни места в изследваната извадка данни). Според прогнозата ИИ няма да е единственият виновник за това, но е основен. И ако изглежда като добра новина това, че се очаква нетно увеличение на заетостта от 7%, или ръст от 78 млн. работни места, то проблемната част е колко души ще са подготвени да ги заемат, както и че всеки четвърти-пети човек на планетата ще бъде пряко засегнат от този процес.

Съвсем скорошно изследване на Станфорд показва, че хората възприемат най-позитивно автоматизацията чрез ИИ, когато тя освобождава време за друга работа с висока стойност (това твърдят 69,4% от анкетираните). Други най-приемливи приложения на ИИ са разтоварване от досадно повторяеми задачи (46,6%) и от стрес (25,5%) или пък когато има възможности за подобряване на качеството (46,6%). Мнозинството от хората предпочитат сътрудничеството между ИИ и човека (45,2%) или автоматизация чрез ИИ, която обаче разчита на ключова намеса от човека (35,6%).

Конвенционалната мъдрост предполага вслушване в нагласите на хората. Не само на теория.

Разбира се, ако правителствата, бизнесът и технологичната индустрия не са окончателно забравили, че всъщност смисълът на всичко е хората да водят по-добър, щастлив и качествен живот. С правилно внедряване, адекватен контрол и нужната етика ИИ може да бъде в хармонична симбиоза с човечеството и да помага за решаване на много и разнообразни проблеми. За съжаление обаче, като всеки инструмент, с него може и да се злоупотребява и рисковете това да се случва не бива да се пренебрегват. Изобщо не е нужно да чакаме ИИ да стане свръхинтелигентен, за да се борим с последствията, които приложенията му вече причиняват.

ИИ, медии и истина

В доклада за дигиталните новини на Института „Ройтерс“ за 2025 г. се твърди, че 73% от американците споделят как не се ориентират или трудно се ориентират какво е истина и какво – лъжа. В Европа този процент засега е само 46.

Но сега изгледайте този новинарски репортаж…

В него няма нищо истинско. Това не се е случило. Нито един от показаните образи не съществува. Лицата, казаното, дори журналистите са компютърно генерирани от ИИ. Нищо че изглеждат като съвсем реални хора, които споделят свои възгледи – добронамерени и позитивни впрочем. Ами ако не бяха?

От технологична гледна точка наистина е впечатляващо колко реалистично изглежда всичко. Но е и точно толкова проблематично. Защото не просто е трудно, а вече става невъзможно да се отличи реалното от виртуално генерираното. И това отваря врати за всякакви злоупотреби.

Технологията е чудесна сама по себе си – проблемът е кой и за какви цели би могъл да я използва.

Инструментът, с който е генериран горният новинарски псевдорепортаж, е достъпен за всички, не струва много и с него може да бъде скалъпена всякаква ужасна новина, която да накара множество хора да повярват, че е истина.

Телефонни измамници и телемаркетинг компании ползват ИИ, за да синтезират човешки гласове. Появиха се фалшиви реклами, промотиращи продукти с лицата на известни личности, които нямат представа за това.

Големият въпрос е как ще живеем в свят, в който е невъзможно да отличим лъжа от истина.

Това не е всичко. Откакто Google започна да предлага т.нар. AI overviews (българският превод е тромав – „общ преглед, създаден от ИИ“, или иначе казано, генерирано от ИИ резюме на всяко търсене в търсачката), медиите се оплакват от огромен спад в трафика към сайтовете си. Очевидно е защо – ако потребителите търсят нещо и получат кратко резюме още в началото, колко от тях биха продължили да четат надолу?

Първият проблем е, че хората се доверяват на резюмето безкритично. Вторият е, че това е директен удар върху и бездруго крехкия и неефективен модел за финансиране на медиите чрез реклама. Защото по-малко трафик означава по-малко показана реклама, по-малко интерес от рекламодателите и съответно по-малко директни приходи.

Интернет и бездруго вече съсипа модела на печатните издания, като буквално нулира приходите на огромна част от тях. Онлайн рекламата и до днес не може да компенсира това. Сега Google издърпва и спасителния пояс на удавниците.

А големият проблем е, че без медии няма демокрация.

Спадът в трафика на онлайн медиите няма как да не доведе пък до съкращаване на журналисти и дори до разпускане на цели екипи и закриване на медии. Някои от тях ще се опитат да компенсират със създадено от ИИ съдържание, което само ще ускори тяхната смърт, защото няма как това да бъде добре прието от публиката.

А погледнато от позитивната страна, ИИ може да има много широко приложение в медиите – като помощник в превода от и на различни езици, в резюмирането и (с много уговорки) редактирането на текстове или в преобразуването на съдържание от един формат в друг (например текст в аудио). Подчертавам помощник – ролята и намесата впоследствие на редактор човек остават неотменими. В „Тоест“ например напоследък ползваме генерирани от ИИ илюстрации за заглавни изображения към материалите, тъй като бюджетът ни не позволява да ползваме услугите на илюстратор или фотограф за всяка публикация. Със сигурност не бихме допуснали обаче генерирани от ИИ статии.

Много е вероятно като съпротивителен механизъм на навлизането на ИИ в различни области да се появят и утвърдят занаятчийски алтернативи, при които не се използва ИИ, а само човешки умения и сили. И това да се превърне в символ на качество, както сега възприемаме ръчно изработените стоки, крафтбирата, домашната лютеница или произведените по поръчка дрехи или мебели. И да сме склонни да плащаме повече за тях – заради личното отношение и човешката връзка. Вече започнаха да се появяват книги, чиито автори декларират на корицата, че не са ползвали ИИ за написването ѝ. (И аз бях сложил изречение, че за написването на тази статия не е използван ИИ, но редакторката ми го изтри.)

ИИ и образованието

В сферата на образованието приложението на ИИ е буквално безгранично – като започнем от чуждоезиковото обучение, визуалните изкуства, точните науки, индивидуалните обучения, различни игровизации (геймификации), особено за деца и хора със специални потребности.

Но в неотдавнашен разтърсващ материал на 404 media преподаватели споделят наблюденията и тревогите си как ИИ буквално е сринал смисъла на преподаването. И не защото технологията е „лоша“, а защото е внедрена или възприета без замисляне и стратегия, без някакви премерени граници. Педагозите разказват с тъга за есета и домашни, написани частично или изцяло от ИИ, и за времето, похабено в търсене и доказване на такива опити за измама, вместо да бъде вложено в работа с наистина мотивираните ученици и студенти. Споделят, че сред възпитаниците им има такива, които не се опитват да разсъждават, а очакват и дори разчитат да консумират съдържание наготово. Разказват за напълно изгубеното доверие, диалог и смисъл.

Най-страшното е не че ИИ пише домашните на учениците или курсовите работи на студентите, а че те самите спират да мислят.

„ChatGPT не е самостоятелен, специфичен проблем. Той е симптом на повсеместна културна парадигма, в която пасивното потребление и преповтаряне на съдържание се превръща в статукво“, казва един от анкетираните преподаватели.

ИИ и власт

Няма спор, че позиционирането на ИИ като новата космическа надпревара е сполучлива медийна метафора и хитроумна бизнес стратегия. Но както някои метафори, хем шуми повече от необходимото, хем не казва същественото. Горчивата истина е, че не разполагаме с механизъм, който да възпре тази технологична битка да се превърне в ожесточена борба за власт. Тя вече е – включително в геополитически смисъл. И проблемът отново е не ИИ, а хората. С онези същите смъртни грехове – алчност, леност, завист, гордост, гняв…

We will use Grok 3.5 (maybe we should call it 4), which has advanced reasoning, to rewrite the entire corpus of human knowledge, adding missing information and deleting errors.

Then retrain on that.

Far too much garbage in any foundation model trained on uncorrected data.

— Elon Musk (@elonmusk) June 21, 2025

„Ще ползваме Grok – заяви Илън Мъск преди три седмици [Grok е генеративният ИИ на неговата компания xAI – б.а.], – и ще пренапишем целия масив от човешко знание, ще добавим липсващата информация и ще премахнем грешките. И ще го обучим наново с това. Има твърде много боклук в некоректните данни, с които сме обучили основните модели досега.“

Дали не е прекалил с някоя субстанция? Не е ясно. Възможно ли е това да е неовладян импулс за привличане на прожекторите, понеже напоследък остана в леко засенчения ъгъл на историята? Възможно е. Но също така е напълно вероятна хипотезата той просто да е безпардонно откровен, защото горното е нищо по-малко от признание, че тази надпревара е за власт. И залогът е висок.

Мъск буквално казва, че който я спечели, ще дефинира реалността за човечеството.

На хора като него не им пука за ефективността на труда ни или за качеството на нашия живот – той иска да оформя начина, по който мислим. И нека си представим последствията. Защото неговите инвеститори си представят точно това, но политически коректно го назовават възможности. И инвеститорите на OpenAI – също, както и крупните акционери в Microsoft, Google и други. Предвид разрушените обществени механизми за колективна съпротива остава да се надяваме да спечели по-малкото зло.

ИИ е толкова интересна концепция, защото е нещо като думата „транспорт“. Има велосипеди, има камиони, има ракети. Всички те са форми на транспорт, но служат за различни цели и представляват различен компромис между разходи и ползи. За мен стремежът към ИИ е най-лошият компромис, защото се опитват да изградят фундаментална машина за всичко, но в крайна сметка тя не може да прави всички неща. Така не само объркват обществото какво всъщност може да се прави с тези технологии – което нанася вреди, защото хората започват да я питат например за медицинска информация, а насреща да получават медицинска дезинформация. Но за капак всичко това е за сметка на колосално потребление на ресурси и колосална експлоатация на труда.

Това каза преди няколко седмици журналистката на „Ню Йорк Таймс“ Карън Хао в телевизионно интервю по повод току-що излязлата ѝ книга Empire of AI. Хао е имала възможността да изследва отвътре OpenAI, компанията създателка на ChatGPT, при това продължително, имайки директен достъп до служителите, до ключови хора в екипа, както и до самия изпълнителен директор Сам Олтман. Наблюдавала е взаимоотношенията помежду им буквално „от пилотската кабина на компанията, която движи лудостта“, както пише в рецензията на корицата Шошана Зубоф. Ще бъде истински пропуск, ако книгата не излезе на български език, защото е крайъгълен камък в историята на развитието на ИИ. До този момент не съществува друга толкова прецизна и обстойна критика по темата.

В първата част на статията споменах, че една от целите ми е да акцентирам върху приглушените гласове – Карън Хао е един от най-важните сред тях, защото пази интегритета и смисъла на журналистиката да служи на хората. Подминавам Джефри Хинтън и Иля Суцкевер, защото ми се струва по-важно да припомня едно доста дълго, но изключително смислено и човешко интервю на Стивън Бартлет с Мо Гаудат, един от напусналите мениджъри на полусекретното развойно звено на Google – X Development.

Две години са изминали от този разговор, но той не е загубил смисъла си. И продължава да съдържа всичко, което е нужно да имаме наум в тревогите си за бъдещето – но също и възможните отговори за него. Игнорирайте лепкавото заглавие, отделете два часа от някой горещ летен уикенд и чуйте какво споделя Мо Гаудат.

ИИ и ние

Дали ИИ е заплаха, или надежда, всъщност е глупав въпрос. Защото поне засега няма изгледи отговорът да не е в ръцете на… човечеството. Разбира се, съмненията в собствените ни способности за етични и рационални избори са валидни и трудно оборими.

Да използваме ИИ, но не и да му се доверяваме сляпо, особено за вземане на критични решения. Да проверяваме всичко. Дори когато ползваме специализиран ИИ, пак трябва да имаме наум, че вероятността да сгреши или да ни заблуди никога не е нулева. Ползвайки ИИ, всъщност е препоръчително да си припомним поне основите на теорията на вероятностите.

Да внимаваме какво споделяме с ИИ – особено ако го ползваме безплатно. Нека си спомним, че сметката все още не излиза. ИИ е скъпо удоволствие и има твърде малко причини някой да ни го предлага твърде евтино или безплатно.

Да приемаме с резерви новините, че ИИ е направил уебсайт за три минути, спечелил е дело, заменил е цяла счетоводна кантора или е проектирал сграда, която е спечелила конкурс. Не защото не е възможно, а защото… надали искаме бизнесът ни да разчита на сайт, направен за три минути. Скорост без стратегия е просто шумотевица. Да забавим. Да премислим. И да се погрижим за последствията и за човешкото отношение помежду си. Не защото само това ще остане да ни отличава от машините, а защото… носим отговорността. Ние, не ИИ.

Времето за критична дискусия между сферите на технологиите, образованието и етиката винаги е сега. Този път – повече от всякога.