Забране вештачке интелигенције и обавезна компетенција: Закон ЕУ о вештачкој интелигенцији – Нова ера у бављењу вештачком интелигенцијом

Закон ЕУ о вештачкој интелигенцији: Нова правила за вештачку интелигенцију од фебруара 2025

Закон Европске уније о вештачкој интелигенцији ступиће на снагу 2. фебруара 2025. године и уводи далекосежне промене у коришћењу вештачке интелигенције (ВИ) у Европи. Компаније, јавне власти и програмери који користе или нуде системе ВИ у ЕУ морају се придржавати строгих прописа. Циљ Закона о ВИ је да се осигура безбедност и транспарентност система ВИ, заштите основна људска права и ојача заштита потрошача.

Нова правила укључују, између осталог, јасне забране одређених високоризичних апликација вештачке интелигенције, захтев за обуку запослених и високе казне за кршење.

У вези са овим:

• Будућност вештачке интелигенције у Европи: Како вештачка интелигенција из ЕУ може да одржи корак у глобалној трци за вештачком интелигенцијом

Забрањене праксе вештачке интелигенције (од 2. фебруара 2025.)

Неке примене вештачке интелигенције сматрају се неприхватљиво ризичним и стога ће бити забрањене од фебруара 2025. године. То укључује:

1. Друштвено бодовање

Процена појединаца на основу њиховог друштвеног понашања или личних карактеристика, као што су:

• Анализа података са друштвених мрежа за процену кредитне способности,
• Процена грађана на основу њихових политичких ставова или верских уверења,
• Аутоматизоване кредитне оцене на основу круга пријатеља или места становања.

2. Препознавање емоција у осетљивим областима

Системи вештачке интелигенције који анализирају емоције или психолошка стања у одређеним окружењима су забрањени:

• На радном месту (нпр. системи који мере стрес или фрустрацију на основу израза лица),
• У образовним институцијама (нпр. вештачка интелигенција која прати концентрацију ученика).

3. Биометријски надзор у реалном времену у јавним просторима

Употреба система за препознавање лица и других биометријских система у реалном времену је забрањена, на пример:

• Камере на железничким станицама или трговима за масовни надзор,
• Аутоматско препознавање лица за идентификацију појединаца без њиховог пристанка.

Изузетак: Употреба је дозвољена ако је у питању борба против тешких злочина (нпр. тероризма) и ако је издат судски налог.

4. Манипулативна вештачка интелигенција

Системи који намерно искоришћавају психолошке рањивости људи да би њима манипулисали су забрањени. То укључује:

• Играчке са гласовним контролама које подстичу децу да се упусте у ризично понашање,
• Оглашавање засновано на вештачкој интелигенцији које манипулише људима да обаве нежељене куповине.

5. Предиктивно полицијско деловање

Системи вештачке интелигенције који класификују људе као потенцијалне криминалце на основу особина личности или друштвених фактора су забрањени.

Употреба вештачке интелигенције остаје дозвољена ако се заснива на објективним чињеницама као што су криминални досијеи.

6. Биометријска категоризација

Аутоматска класификација људи према критеријумима као што су: је забрањена

• Етничко порекло,
• сексуална оријентација,
• политичко мишљење.

Обавезна обука за запослене у области вештина вештачке интелигенције

Поред забрана високоризичне вештачке интелигенције, Закон о вештачкој интелигенцији такође налаже обуку за запослене који раде са системима вештачке интелигенције. Компаније и владине агенције морају да обезбеде да њихови запослени поседују довољно стручности.

Садржај обуке:

• Техничко разумевање коришћених алата вештачке интелигенције,
• Свест о ризицима као што су дискриминација или проблеми са заштитом података,
• Критичко размишљање о одлукама вештачке интелигенције.

Погођене групе:

• Програмери вештачке интелигенције (нпр. стартапови у области генеративне вештачке интелигенције),
• Одељења за људске ресурсе која користе вештачку интелигенцију у процесима регрутације,
• Безбедносне власти са системима за надзор подржаним вештачком интелигенцијом,
• Универзитети и јавне администрације користе анализу података подржану вештачком интелигенцијом.

Компаније су дужне да документују мере обуке и редовно их ажурирају.

Последице кршења Закона о вештачкој интелигенцији

Непоштовање нових прописа резултираће озбиљним казнама:

• Казне до 35 милиона евра или 7% годишњег светског промета,
• Ризици одговорности ако штета настане због неисправних апликација вештачке интелигенције,
• Забране пословања ако компанија више пута крши смернице вештачке интелигенције.

Национална регулаторна тела биће одговорна за праћење усклађености, почевши са радом у августу 2025. У Немачкој се очекује да ће бити одговорна Федерална агенција за мреже.

Рупе у закону и изузеци

Иако Закон о вештачкој интелигенцији забрањује многе ризичне апликације, постоје изузеци:

1. Спровођење закона

• Употреба биометријског надзора остаје дозвољена у случајевима тешких кривичних дела (нпр. борба против тероризма).
• Полицији је дозвољено да користи вештачку интелигенцију за препознавање лица ако се добије судска дозвола.

2. Граничне контроле

• Вештачка интелигенција се може користити за анализу емоционалног стања избеглица.
• Одређене процене ризика потпомогнуте вештачком интелигенцијом остају дозвољене.

3. Истраживање и развој

• Одређени високоризични системи вештачке интелигенције могу бити развијени у научне сврхе, све док се не користе у пракси.

Потребне су мере за компаније

Закон ЕУ о вештачкој интелигенцији поставља нове глобалне стандарде за етичку употребу вештачке интелигенције. Компаније морају да се рано припреме за нова правила, посебно тако што ће:

• Тестирање њихових вештачких интелигенцијских система ради усклађености,
• Спровођење интерних програма обуке,
• Документација одлука вештачке интелигенције и процена ризика.

Они који занемаре строге прописе ризикују не само велике казне већ и масовни губитак поверења међу купцима и партнерима. Стога је препоручљиво да се већ сада почне са прилагођавањем процеса и смерница како би се испунили захтеви Закона о вештачкој интелигенцији.

У ери у којој дигитално присуство компаније одређује њен успех, изазов лежи у стварању аутентичног, персонализованог и далекосежног присуства. Xpert.Digital нуди иновативно решење које се позиционира као пресек индустријског центра, блога и амбасадора бренда. Комбинује предности комуникационих и продајних канала на једној платформи и омогућава објављивање на 18 различитих језика. Сарадња са партнерским порталима и могућност објављивања чланака на Google News-у и листи за дистрибуцију штампе са приближно 8.000 новинара и читалаца максимизирају досег и видљивост садржаја. Ово представља кључни фактор у екстерној продаји и маркетингу (SMarkеting).

Више информација овде:

• Аутентично. Индивидуално. Глобално: Xpert.Digital стратегија за вашу компанију

Вештачка интелигенција под лупом: Утицај Закона о вештачкој интелигенцији на Европу

Данас ступа на снагу Закон Европске уније о вештачкој интелигенцији, револуционаран закон који фундаментално реструктурира руковање вештачком интелигенцијом (ВИ). Овај закон означава кључну прекретницу, јер први пут успоставља конкретне забране одређених апликација ВИ и истовремено поставља високе стандарде за компетентност оних који раде са овим технологијама. Закон о ВИ има за циљ да искористи огромне могућности ВИ без угрожавања основних права грађана или толерисања неприхватљивих ризика.

Обим Закона о вештачкој интелигенцији је широк и утиче на компаније, јавне органе и програмере који користе или нуде системе вештачке интелигенције унутар ЕУ. То значи да ће нови прописи утицати на практично све области нашег друштва, од пословања и јавне управе до образовног сектора. Импликације овог закона су огромне и довешће до дубоких промена у начину на који развијамо, користимо и регулишемо вештачку интелигенцију.

Забрањене праксе вештачке интелигенције: Штит за грађанске слободе

Суштина Закона о вештачкој интелигенцији састоји се од јасно дефинисаних забрана одређених апликација вештачке интелигенције које су класификоване као посебно ризичне или штетне. Ове забране нису намењене гушењу иновација, већ као неопходан заштитни механизам за заштиту основних права и људског достојанства у дигиталном свету.

Забрана друштвеног бодовања

Једна од најистакнутијих забрана тиче се такозваног „друштвеног бодовања“. То подразумева процену појединаца на основу друштвених карактеристика као што су политички ставови, верска припадност или понашање при куповини. „Људи не смеју бити сведени на пуке скупове података“, упозорио је један од комесара ЕУ током преговора. Системи који на овај начин друштвено процењују појединце и стављају их у неку врсту рангирања сматрају се неспојивим са европским вредностима. Искуства са сличним системима у другим деловима света, која су довела до социјалне искључености и дискриминације, допринела су овом строгом ставу.

Забрана препознавања емоција на радном месту и у образовним институцијама

Закон о вештачкој интелигенцији забрањује употребу технологија за препознавање емоција на радном месту и у образовним институцијама. „Свет рада и образовања не смеју постати арене надзора“, нагласио је један посланик Европског парламента. Бележење стреса, фрустрације или умора од стране система вештачке интелигенције сматра се кршењем приватности и личне аутономије погођених. Забринутост је да би такве технологије могле довести до атмосфере неповерења и страха, а такође би могле допринети неправедној оцени учинка.

Забрана биометријског надзора у реалном времену у јавним просторима

Употреба биометријског надзора у реалном времену у јавним просторима, као што су камере на железничким станицама или на јавним трговима, такође је забрањена. Овај надзор, који често укључује препознавање лица, сматра се масовним нарушавањем приватности. Стални поглед државе надзора, како га називају критичари, није компатибилан са основним принципима слободног и отвореног друштва. Међутим, постоји важан изузетак за спровођење закона у случајевима тешких злочина, као што је тероризам. У тим случајевима, употреба таквих технологија може бити оправдана под строгим условима и у ограниченом обиму.

Забрана манипулативне вештачке интелигенције

Још један кључни пропис тиче се употребе манипулативних система вештачке интелигенције. Ови системи, који намерно искоришћавају рањивости рањивих појединаца, забрањени су Законом о вештачкој интелигенцији. Примери укључују играчке са гласовним контролама које маме децу на ризично понашање или преварне позиве покретане вештачком интелигенцијом који доводе до финансијских потешкоћа за старије особе. Циљ законодавства је да се осигура да се системи вештачке интелигенције не злоупотребљавају да би се умањила или наштетила слободи избора људи.

Забрана предиктивног полицијског рада

Коначно, Закон о вештачкој интелигенцији забрањује употребу предиктивног полицијског рада, у којем се појединци категоришу као потенцијални преступници на основу особина личности. Ова пракса се сматра дискриминаторном и неправедном, јер може бити заснована на предрасудама и стереотипима. Међутим, важно је нагласити да је коришћење објективних чињеница, као што су кривичне евиденције, и даље дозвољено.

Мандат компетенције вештачке интелигенције: Основа за одговорно коришћење вештачке интелигенције

Поред забрана, Закон о вештачкој интелигенцији такође садржи кључну компоненту за јачање компетенција у области вештачке интелигенције. Компаније и јавне власти морају да обезбеде да запослени који раде са системима вештачке интелигенције поседују довољно стручности. Овај захтев за компетенцијом има за циљ да осигура да се системи вештачке интелигенције користе не само ефикасно, већ и етички и одговорно.

Потребне вештине укључују техничко разумевање коришћених алата вештачке интелигенције, свест о ризицима као што су дискриминација или кршење података и способност критичке процене одлука вештачке интелигенције. Компаније морају да понуде обуку за запослене који раде са четботовима заснованим на вештачкој интелигенцији, алатима за регрутовање или аналитичким системима. Ова обука мора бити документована и узети у обзир специфичан контекст употребе. Запослени морају бити у стању да разумеју како системи вештачке интелигенције функционишу, препознају њихова ограничења и идентификују потенцијалне грешке или пристрасности. Морају да размотре етичке импликације свог рада и да разумеју утицај својих одлука на оне на које се односе.

Обавеза демонстрирања компетентности односи се не само на директне кориснике система вештачке интелигенције, већ и на програмере технологија вештачке интелигенције. Они морају да обезбеде да њихови системи нису само технички исправни, већ и да испуњавају етичке и законске захтеве. Морају да узму у обзир принципе „вештачке интелигенције по дизајну“ и да се труде да од самог почетка минимизирају ризике и потенцијалну штету.

Последице кршења: Подстицај за усклађеност

Последице кршења Закона о вештачкој интелигенцији су значајне. Компаније и владине агенције могу се суочити са казнама до 35 милиона евра или 7% њиховог глобалног годишњег промета. Штавише, могу се суочити са ризицима одговорности ако штета настане због неадекватне компетенције запослених. Страх од високих казни и штете по репутацију има за циљ да подстакне компаније и владине агенције да се строго придржавају прописа Закона о вештачкој интелигенцији.

Важно је нагласити да Закон о вештачкој интелигенцији није само кривични закон, већ и инструмент за промоцију одговорне употребе вештачке интелигенције. Овим законом, ЕУ жели да пошаље сигнал да технологије вештачке интелигенције треба користити у служби човечанства, а не на његову штету.

Изазови и отворена питања

Иако је Закон о вештачкој интелигенцији важан корак напред, остају неки изазови и отворена питања. Прецизни стандарди обуке и одговорна регулаторна тела и даље захтевају додатна појашњења. Очекује се да ће бити потребно неко време пре него што се нови прописи у потпуности имплементирају и ступе на снагу.

Праћење усклађености са прописима биће велики изазов. Мора се осигурати да компаније и власти поступају у складу са прописима не само на папиру, већ и у пракси. Надзорни органи морају бити опремљени потребним ресурсима и овлашћењима да ефикасно испуне свој задатак.

Још један важан аспект је међународна сарадња. ЕУ није једини актер који се бави регулацијом вештачке интелигенције. Кључно је постићи глобални консензус о етичком и правном оквиру за вештачку интелигенцију. Фрагментирана регулација могла би довести до конкурентских неповољности и неједнаке расподеле користи и ризика вештачке интелигенције.

Закон о вештачкој интелигенцији: Европска визија за будућност вештачке интелигенције усмерену на човека

Закон о вештачкој интелигенцији је више од обичног закона. То је израз европских вредности и визија за одговорну и човеку усмерену вештачку интелигенцију. То је позив друштву да се активно ангажује у могућностима и ризицима вештачке интелигенције и да обликује будућност у којој ће се технологија користити за добробит свих.

Закон о вештачкој интелигенцији ће несумњиво донети дубоку промену у начину на који интерагујемо са вештачком интелигенцијом. Утицаће на развој нових технологија и промениће начин на који их интегришемо у наш свакодневни живот. Примораће компаније и владине агенције да преиспитају своје праксе и усвоје одговорнији приступ вештачкој интелигенцији.

Закон о вештачкој интелигенцији је важан корак ка дигиталној будућности која служи човечанству, а не обрнуто. Он показује спремност Европске уније да преузме водећу улогу у обликовању револуције вештачке интелигенције, дајући приоритет основним правима и људском достојанству. Ово је закон који ће бити значајан не само за Европу, већ и за цео свет. Он представља покушај да се постигне равнотежа између иновација и заштите појединца.

Етика и вештачка интелигенција: Закон о вештачкој интелигенцији као путоказ за одговорну будућност

Улога етике у развоју вештачке интелигенције

Закон о вештачкој интелигенцији није само правни пројекат, већ и етички. Интегрисање етичких принципа у развој вештачке интелигенције је кључно за осигуравање да су системи вештачке интелигенције праведни, транспарентни и одговорни. Потребна је дискусија о етичким питањима која окружују вештачку интелигенцију, како у друштву тако и унутар компанија.

Значај транспарентности

Транспарентност је кључни принцип Закона о вештачкој интелигенцији. Начин на који системи вештачке интелигенције раде мора бити разумљив како би они који су погођени могли да схвате како се доносе одлуке. Ово је посебно важно за системе вештачке интелигенције који се користе у осетљивим областима као што су здравствена заштита или правосудни систем.

Утицај на тржиште рада

Употреба вештачке интелигенције ће утицати на тржиште рада. Створиће се нова радна места, али ће се радна места и изгубити. Важно је да се друштво припреми за ове промене и предузме неопходне мере за подршку радницима.

Улога образовања

Образовање игра кључну улогу у неговању компетенција у области вештачке интелигенције. Неопходно је да се образовни системи прилагоде изазовима револуције вештачке интелигенције и да пруже потребне вештине. То укључује не само техничке вештине већ и етичке и друштвене компетенције.

Заштита приватности

Заштита приватности је кључна брига Закона о вештачкој интелигенцији. Прикупљање и обрада података од стране система вештачке интелигенције морају бити одговорни. Субјекти података морају задржати контролу над својим подацима и имати право да захтевају њихово брисање.

Промовисање иновација

Закон о вештачкој интелигенцији не треба погрешно схватити као кочницу иновацијама. Уместо тога, његова намена је да обезбеди оквир за развој одговорних и етички исправних технологија вештачке интелигенције. Важно је да компаније и истраживачи и даље имају прилику да покрећу иновације у области вештачке интелигенције.

☑️ Подршка малим и средњим предузећима у стратегији, консултацијама, планирању и имплементацији

☑️ Креирање или реорганизација дигиталне стратегије и дигитализације

☑️ Проширење и оптимизација међународних продајних процеса

☑️ Глобалне и дигиталне B2B платформе за трговање

☑️ Пионирски развој пословања

 

Било би ми драго да вам будем лични саветник.

Можете ме контактирати попуњавањем контакт форме испод или ме једноставно позовите на +49 7348 4088 965 .

Радујем се нашем заједничком пројекту.

 

 

Xpert.Digital је центар за индустрију фокусиран на дигитализацију, машинство, логистику/интралогистику и фотонапонске системе.

Са нашим решењем за развој пословања од 360°, пружамо подршку реномираним компанијама, од нових пословања до постпродајних услуга.

Тржишна интелигенција, маркетиншки маркетинг, маркетиншка аутоматизација, развој садржаја, односи с јавношћу, мејлинг кампање, персонализоване друштвене мреже и неговање потенцијалних клијената су део наших дигиталних алата.

Више информација можете пронаћи на: www.xpert.digital - www.xpert.solar - www.xpert.plus