Tehisintellekt: AI must kast koos seletatava AI (XAI), kuumakaartide, asendusmudeli või muude lahendustega muudavad selle arusaadavaks, arusaadavaks ja seletatavaks

🕳️🧩 Musta kasti tehisintellekt: (ikka veel) läbipaistvuse puudumine tänapäeva tehnoloogias

Tehisintellekti (TI) niinimetatud „must kast“ kujutab endast olulist ja pakilist probleemi. Isegi eksperdid seisavad sageli silmitsi väljakutsega, et nad ei suuda täielikult mõista, kuidas tehisintellekti süsteemid oma otsusteni jõuavad. See läbipaistvuse puudumine võib põhjustada märkimisväärseid probleeme, eriti sellistes kriitilistes valdkondades nagu majandus, poliitika ja meditsiin. Arst, kes tugineb diagnoosimiseks ja ravisoovituste andmiseks tehisintellekti süsteemile, peab oma otsuste tegemisel usaldama. Kui aga tehisintellekti otsustusprotsess ei ole piisavalt läbipaistev, tekib ebakindlus, mis võib viia usalduse puudumiseni – ja seda olukordades, kus inimelud võivad olla ohus.

Läbipaistvuse väljakutse 🔍

Tehisintellekti täieliku aktsepteerimise ja terviklikkuse tagamiseks tuleb ületada mitu takistust. Tehisintellekti otsustusprotsessid tuleb muuta inimestele arusaadavaks ja läbipaistvaks. Praegu põhinevad paljud tehisintellekti süsteemid, eriti masinõpet ja närvivõrke kasutavad süsteemid, keerukatel matemaatilistel mudelitel, mida on võhikutel ja sageli isegi ekspertidel raske mõista. See viib selleni, et tehisintellekti otsuseid vaadeldakse omamoodi "musta kastina" – tulemust näeb, aga ei saa täielikult aru, kuidas see tekkis.

Seetõttu on tehisintellekti süsteemide selgitatavuse nõudlus üha olulisem. See tähendab, et tehisintellekti mudelid ei pea mitte ainult pakkuma täpseid ennustusi või soovitusi, vaid need peaksid olema loodud ka nii, et need paljastaksid aluseks oleva otsustusprotsessi inimestele arusaadaval viisil. Seda nimetatakse sageli „selgitatavaks tehisintellektiks“ (XAI). Probleem seisneb selles, et paljusid kõige võimsamaid mudeleid, näiteks süvaneurüsmeid, on loomupäraselt raske tõlgendada. Sellest hoolimata on tehisintellekti selgitatavuse parandamiseks juba olemas arvukalt lähenemisviise.

Lähenemisviisid selgitatavusele 🛠️

Üks selline lähenemisviis on asendusmudelite kasutamine. Need mudelid püüavad keeruka tehisintellekti süsteemi funktsionaalsust ligikaudselt kirjeldada lihtsama ja kergemini mõistetava mudeli abil. Näiteks keerukat närvivõrku saab seletada otsustuspuu mudeliga, mis on küll vähem täpne, kuid kergemini mõistetav. Sellised meetodid võimaldavad kasutajatel saada vähemalt ligikaudse arusaama sellest, kuidas tehisintellekt konkreetse otsuseni jõudis.

Lisaks püütakse üha enam pakkuda visuaalseid selgitusi, näiteks nn "soojuskaarte", mis illustreerivad, millistel sisendandmetel oli tehisintellekti otsusele eriti tugev mõju. Selline visualiseerimine on eriti oluline pilditöötluses, kuna see annab selge selgituse, millistele pildipiirkondadele tehisintellekt otsuse langetamisel erilist tähelepanu pööras. Sellised lähenemisviisid aitavad suurendada tehisintellekti süsteemide usaldusväärsust ja läbipaistvust.

Peamised rakendusvaldkonnad 📄

Tehisintellekti selgitatavus on väga oluline mitte ainult üksikutele tööstusharudele, vaid ka reguleerivatele asutustele. Ettevõtted sõltuvad oma tehisintellekti süsteemide tõhusast toimimisest, mis on kooskõlas ka seadusliku ja eetilise toimimisega. See nõuab otsuste põhjalikku dokumenteerimist, eriti tundlikes valdkondades, nagu rahandus ja tervishoid. Reguleerivad asutused, näiteks Euroopa Liit, on juba alustanud tehisintellekti kasutamise rangete eeskirjade väljatöötamist, eriti ohutuskriitiliste rakenduste puhul.

Üks näide sellistest regulatiivsetest jõupingutustest on ELi tehisintellekti määrus, mis esitati 2021. aasta aprillis. Selle määruse eesmärk on reguleerida tehisintellekti süsteemide kasutamist, eriti kõrge riskiga piirkondades. Tehisintellekti kasutavad ettevõtted peavad tagama, et nende süsteemid on selgitatavad, turvalised ja diskrimineerimisvabad. Selgitatavus mängib selles kontekstis olulist rolli. Ainult siis, kui tehisintellekti otsust saab läbipaistvalt jälgida, saab potentsiaalset diskrimineerimist või vigu varakult tuvastada ja parandada.

Ühiskonnas aktsepteerimine 🌍

Läbipaistvus on samuti tehisintellekti süsteemide laialdase aktsepteerimise võtmetegur ühiskonnas. Vastuvõtu suurendamiseks tuleb tugevdada avalikkuse usaldust nende tehnoloogiate vastu. See kehtib mitte ainult ekspertide, vaid ka laiema avalikkuse kohta, kes suhtub uutesse tehnoloogiatesse sageli skeptiliselt. Juhtumid, kus tehisintellekti süsteemid on teinud diskrimineerivaid või ekslikke otsuseid, on kõigutanud paljude inimeste usaldust. Tuntud näide selle kohta on algoritmid, mida treeniti kallutatud andmekogumite põhjal, mis seejärel taastootsid süstemaatilisi eelarvamusi.

Teadus on näidanud, et inimesed on altimad otsuseid aktsepteerima, isegi kui need on neile ebasoodsad, kui nad mõistavad otsustusprotsessi. See kehtib ka tehisintellekti süsteemide kohta. Kui tehisintellekti toimimist selgitatakse ja arusaadavaks tehakse, on inimesed altimad seda usaldama ja aktsepteerima. Läbipaistmatuse puudumine loob aga lõhe tehisintellekti süsteemide arendajate ja nende otsustest mõjutatud inimeste vahele.

Tehisintellekti selgitatavuse tulevik 🚀

Vajadus muuta tehisintellekti süsteemid läbipaistvamaks ja arusaadavamaks kasvab ka lähiaastatel. Kuna tehisintellekt levib üha rohkemates eluvaldkondades, muutub ettevõtete ja avaliku sektori asutuste jaoks oluliseks, et nad suudaksid selgitada oma tehisintellekti süsteemide tehtud otsuseid. See ei ole ainult avalikkuse aktsepteerimise, vaid ka juriidilise ja eetilise vastutuse küsimus.

Teine paljutõotav lähenemisviis on inimeste ja masinate kombinatsioon. Täielikult tehisintellektile lootmise asemel võiks läbipaistvust ja selgitatavust parandada hübriidsüsteem, kus inimeksperdid teevad tihedat koostööd tehisintellekti algoritmidega. Sellises süsteemis saaksid inimesed tehisintellekti otsuseid üle vaadata ja vajadusel sekkuda, kui on kahtlusi otsuse õigsuses.

Tehisintellekti „musta kasti” probleem tuleb lahendada ⚙️

Tehisintellekti selgitatavus on endiselt üks suurimaid väljakutseid tehisintellekti valdkonnas. Nn musta kasti probleem tuleb lahendada, et tagada tehisintellekti süsteemide usaldus, aktsepteerimine ja terviklikkus kõigis valdkondades, alates ärist kuni meditsiinini. Ettevõtete ja valitsusasutuste ees seisab ülesanne arendada mitte ainult suure jõudlusega, vaid ka läbipaistvaid tehisintellekti lahendusi. Täielik ühiskondlik aktsepteerimine on saavutatav ainult arusaadavate ja jälgitavate otsustusprotsesside kaudu. Lõppkokkuvõttes määrab tehisintellekti otsustusprotsessi selgitamise võime selle tehnoloogia edu või ebaedu.

📣 Sarnased teemad

• 🤖 Tehisintellekti „must kast”: sügav probleem
• 🌐 Läbipaistvus tehisintellekti otsustes: miks see on oluline
• 💡 Selgitatav tehisintellekt: kuidas läbipaistvuse puudumisest välja tulla
• 📊 Lähenemisviisid tehisintellekti selgitatavuse parandamiseks
• 🛠️ Surrogaatmudelid: samm selgitatava tehisintellekti suunas
• 🗺️ Soojuskaardid: tehisintellekti otsuste visualiseerimine
• 📉 Selgitatava tehisintellekti peamised rakendusvaldkonnad
• 📜 EL-i määrus: kõrge riskiga tehisintellekti määrused
• 🌍 Ühiskondlik aktsepteerimine läbipaistva tehisintellekti kaudu
• 🤝 Tehisintellekti selgitatavuse tulevik: inimese ja masina koostöö

#️⃣ Hashtagid: #Tehisintellekt #SelgitatavTehisintellekt #Läbipaistvus #Regulatsioon #Ühiskond

Katse tehisintellekti selgitada: kuidas tehisintellekt töötab ja kuidas seda treenitakse? – Pilt: Xpert.Digital

Tehisintellekti (TI) toimimise saab jagada mitmeks selgelt määratletud etapiks. Igaüks neist etappidest on TI lõpptulemuse seisukohalt ülioluline. Protsess algab andmete sisestamisega ja lõpeb mudeli ennustamise ning tagasiside või edasiste treeningvoorudega. Need etapid kirjeldavad protsessi, mida peaaegu kõik TI mudelid läbivad, olenemata sellest, kas tegemist on lihtsate reeglite või väga keerukate närvivõrkudega.

Lisateavet selle kohta siin:

• Andmete sisestamisest mudeli ennustamiseni: tehisintellekti protsess

☑️ VKE tugi strateegia, nõuannete, planeerimise ja rakendamise alal

☑️ digitaalse strateegia loomine või ümberpaigutamine ja digiteerimine

☑️ Rahvusvaheliste müügiprotsesside laiendamine ja optimeerimine

☑️ Globaalsed ja digitaalsed B2B kauplemisplatvormid

☑️ teerajaja ettevõtluse arendamine

Konrad Wolfenstein

Aitan teid hea meelega isikliku konsultandina.

Võite minuga ühendust võtta, täites alloleva kontaktvormi või helistage mulle lihtsalt telefonil +49 89 674 804 (München) .

Ootan meie ühist projekti.

Xpert.digital on tööstuse keskus, mille fookus, digiteerimine, masinaehitus, logistika/intralogistics ja fotogalvaanilised ained.

Oma 360 ° ettevõtluse arendamise lahendusega toetame hästi tuntud ettevõtteid uuest äritegevusest pärast müüki.

Turuluure, hammastamine, turunduse automatiseerimine, sisu arendamine, PR, postkampaaniad, isikupärastatud sotsiaalmeedia ja plii turgutamine on osa meie digitaalsetest tööriistadest.

Lisateavet leiate aadressilt: www.xpert.digital - www.xpert.solar - www.xpert.plus