Tehisintellekt: AI must kast koos seletatava AI (XAI), kuumakaartide, asendusmudeli või muude lahendustega muudavad selle arusaadavaks, arusaadavaks ja seletatavaks

🕳️🧩 Must kast KI: (endiselt) mitte-siirdamine kaasaegses tehnoloogias

Tehisintellekti (AI) nn must kast on oluline ja ajakohane probleem. Isegi eksperdid seisavad sageli silmitsi väljakutsega, et nad ei saa täielikult aru, kuidas AI -süsteemid oma otsuseid teha saavad. See mitteülekanne võib põhjustada olulisi probleeme, eriti kriitilistes valdkondades nagu äri, poliitika või meditsiin. Arst või arst, kes tugineb diagnoosimise ja teraapia soovituse ajal AI -süsteemile, peab olema tehtud otsuste suhtes. Kui aga AI otsuse tegemine ei ole piisavalt läbipaistev, tekivad ebakindlus ja võib -olla ka usalduse puudumine - ja see olukordades, kus inimelu võiks kaalul olla.

Läbipaistvuse väljakutse 🔍

AI täieliku aktsepteerimise ja terviklikkuse tagamiseks tuleb mõned takistused üle saada. AI otsuste tegemise protsessid tuleb muuta inimestele arusaadavaks ja arusaadavaks. Praegu põhinevad paljud AI -süsteemid, eriti need, mis kasutavad masinõpet ja närvivõrke, keerukatel matemaatilistel mudelitel, mida on võhiku jaoks keeruline mõista, kuid sageli ka ekspertidele. See tähendab, et peate AI otsuseid omamoodi „musta kasti”-näete tulemust, kuid te ei saa täpselt aru, kuidas see tekkis.

Seetõttu on AI -süsteemide selgitamise nõudmine muutumas üha olulisemaks. See tähendab, et AI-mudelid ei pea mitte ainult pakkuma täpseid ennustusi või soovitusi, vaid tuleks ka kujundada nii, et nad avalikustavad aluseks oleva otsustusprotsessi viisil, mis on inimestele mõistetav. Seda nimetatakse sageli seletatavaks AI (XAI). Siin on väljakutse, et paljusid võimsamaid mudeleid, näiteks sügavaid närvivõrke, on loomulikult keeruline tõlgendada. Sellegipoolest on AI selgitamise parandamiseks juba arvukalt lähenemisviise.

Lähenemisviisid 🛠️ selgitamiseks

Üks neist lähenemisviisidest on asendusmudelite kasutamine või nii nimetatud asendusmudelid. Need mudelid püüavad keeruka AI -süsteemi toimimist lummada lihtsama mudeli abil, mida on lihtsam mõista. Näiteks võiks keerulist neuronaalset võrku seletada otsustuspuu mudeliga, mis on vähem täpne, kuid paremini mõistetav. Sellised meetodid võimaldavad kasutajatel saada vähemalt ligikaudse ettekujutuse sellest, kuidas AI on teatud otsuse teinud.

Lisaks tehakse üha rohkem jõupingutusi visuaalsete seletuste saamiseks, näiteks nii nimega „soojuskaartide” kaudu, mis näitavad, millised sisendandmed mõjutasid eriti suurt mõju AI otsusele. Seda tüüpi visualiseerimine on eriti oluline pilditöötluses, kuna see annab selge selgituse, mille kohta AI -le otsuse tegemiseks eriti täheldas pildialasid. Sellised lähenemisviisid aitavad suurendada AI -süsteemide usaldusväärsust ja läbipaistvust.

Olulised rakendusvaldkonnad 📄

AI seletatavus on väga oluline mitte ainult üksikute tööstuste, vaid ka reguleerivate asutuste jaoks. Ettevõtted sõltuvad asjaolust, et nende AI -süsteemid ei tööta mitte ainult tõhusalt, vaid ka juriidiliselt ja eetiliselt. See nõuab otsuste täielikku dokumenteerimist, eriti tundlikes valdkondades nagu finantssektori või tervishoius. Reguleerivad asutused nagu Euroopa Liit on juba hakanud välja töötama AI kasutamise ranged eeskirjad, eriti kui neid kasutatakse turvakriitilistes rakendustes.

Selliste regulatiivsete jõupingutuste näide on ELi EL -i reguleerimine 2021. aasta aprillis. Selle eesmärk on reguleerida AI -süsteemide kasutamist, eriti kõrge riskiga piirkondades. AI -d kasutavad ettevõtted peavad tagama, et nende süsteemid on arusaadavad, ohutud ja diskrimineerimiseta. Selgitatavus mängib selles kontekstis üliolulist rolli. Sest ainult siis, kui AI otsust saab läbipaistvalt mõista, saab võimalikku diskrimineerimist või vigu varakult ära tunda ja parandada.

Aktsepteerimine ühiskonnas 🌍

Läbipaistvus on ka AI -süsteemide laia aktsepteerimise võtmetegur ühiskonnas. Nõustumise suurendamiseks tuleb nendes tehnoloogiates tugevdada inimeste usaldust. See kehtib mitte ainult ekspertide, vaid ka üldsuse kohta, mis on uute tehnoloogiate suhtes sageli skeptiline. Juhtumid, milles AI -süsteemid on teinud diskrimineerivaid või valesid otsuseid, on paljude inimeste usaldust raputanud. Selle hästi tuntud näide on algoritmid, mida on koolitatud moonutatud andmearvestuses ja seejärel reprodutseerinud süstemaatilisi eelarvamusi.

Teadus on näidanud, et inimesed on rohkem nõus otsusega vastu võtma, isegi kui see on nende jaoks negatiivne, kui nad mõistavad otsuse tegemise protsessi. See kehtib ka AI süsteemide kohta. Kui AI funktsionaalsust selgitatakse ja muudetakse arusaadavaks, kipuvad inimesed teda pigem usaldama ja teda aktsepteerima. Kui läbipaistvus puudub, on aga lõhe nende vahel, kes arendavad AI -süsteeme ja nende otsuseid mõjutavad need.

AI seletatavuse tulevik 🚀

Vajadus muuta AI -süsteemid läbipaistvamaks ja arusaadavamaks, suureneb lähiaastatel. AI järkjärgulise leviku korral üha enam eluvaldkondades on oluline, et ettevõtted ja võimud saaksid selgitada oma AI -süsteemide otsuseid. See pole mitte ainult aktsepteerimise küsimus, vaid ka juriidiline ja eetiline vastutus.

Veel üks paljutõotav lähenemisviis on inimeste ja masinate kombinatsioon. Selle asemel, et AI -le täielikult tugineda, võiks hübriidsüsteem, milles inimmieksperdid teevad tihedat koostööd AI algoritmidega, parandada läbipaistvust ja selgitamist. Sellises süsteemis võiksid inimesed kontrollida AI otsuseid ja vajadusel sekkuda, kui otsuse õigsuses on kahtlusi.

AI probleem tuleb üle saada ⚙️

AI seletatavus on tehisintellekti valdkonnas üks suurimaid väljakutseid. Nn must kasti probleem tuleb üle saada, et tagada AI-süsteemide usaldus, aktsepteerimine ja terviklikkus kõigis valdkondades, alates äritegevusest kuni meditsiinini. Ettevõtted ja ametivõimud seisavad silmitsi ülesandega mitte ainult välja töötada võimsaid, vaid ka läbipaistvaid AI -lahendusi. Täielikku sotsiaalset aktsepteerimist saab saavutada ainult arusaadavate ja arusaadavate otsuste tegemise protsesside kaudu. Lõppkokkuvõttes otsustab AI otsuse tegemise oskus otsustada selle tehnoloogia edu või ebaõnnestumise üle.

📣 Sarnased teemad

• 🤖 tehisintellekti “must kast”: sügav probleem
• 🌐 AI otsuste läbipaistvus: miks see on oluline
• 💡 Selgitav AI: teed kohalikust läbipaistvusest
• 📊 lähenemisviisid AI seletatavuse parandamiseks
• 🛠️ asendusmudelid: üks samm seletatava AI -le
• 🗺️ Kuumed: AI otsuste visualiseerimine
• 📉 Selgitatava AI olulised rakendusvaldkonnad
• 📜 EL-i reguleerimine: kõrge riskiga KI määrused
• 🌍 Sotsiaalne aktsepteerimine läbipaistva AI kaudu
• 🤝 AI selgituse tulevik: inim-masina koostöö

«

Katse selgitada AI: Kuidas tehisintellekt töötab ja kuidas seda koolitatakse? - pilt: xpert.digital

Tehisintellekti (AI) funktsionaalsuse võib jagada mitmeks selgelt määratletud etapiks. Kõik need sammud on üliolulised lõpptulemuse jaoks, mida AI tarnib. Protsess algab andmete sisestamisel ja lõpeb mudeli prognoosi ning kogu tagasiside või muude treeningvoorudega. Need faasid kirjeldavad protsessi, mille peaaegu kõik AI -mudelid läbi käivad, sõltumata sellest, kas tegemist on lihtsad määrused või väga keerulised närvivõrgud.

Lisateavet selle kohta siin:

• Andmesisestusest mudeli prognoosimiseni: AI protsess

☑️ VKE tugi strateegia, nõuannete, planeerimise ja rakendamise alal

☑️ digitaalse strateegia loomine või ümberpaigutamine ja digiteerimine

☑️ Rahvusvaheliste müügiprotsesside laiendamine ja optimeerimine

☑️ Globaalsed ja digitaalsed B2B kauplemisplatvormid

☑️ teerajaja ettevõtluse arendamine

Konrad Wolfenstein

Aitan teid hea meelega isikliku konsultandina.

Võite minuga ühendust võtta, täites alloleva kontaktvormi või helistage mulle lihtsalt telefonil +49 89 674 804 (München) .

Ootan meie ühist projekti.

Xpert.digital on tööstuse keskus, mille fookus, digiteerimine, masinaehitus, logistika/intralogistics ja fotogalvaanilised ained.

Oma 360 ° ettevõtluse arendamise lahendusega toetame hästi tuntud ettevõtteid uuest äritegevusest pärast müüki.

Turuluure, hammastamine, turunduse automatiseerimine, sisu arendamine, PR, postkampaaniad, isikupärastatud sotsiaalmeedia ja plii turgutamine on osa meie digitaalsetest tööriistadest.

Lisateavet leiate aadressilt: www.xpert.digital - www.xpert.solar - www.xpert.plus