Tehisintellekt, valitsemine ja organisatsiooniline sidusus
Seisukohapaber, mis väidab, et tehisintellekti valitsemine reguleeritud organisatsioonides on olemuslikult hajutatud kognitsiooni, kultuurilise joondatuse ja arhitektuurse sidususe küsimus.
Toetub organisatsiooniteooriale Edgar Scheinilt (kultuur), Karl Weickilt (tähendusloome) ning harmoniseerimise ja institutsionaliseerumise institutsionaalsetele käsitlustele.
Sissejuhatus
Reguleeritud organisatsioonides käsitletakse tehisintellekti sageli kas tehnilise juurutamise väljakutse või õigusliku vastavusküsimusena. Kuigi mõlemad mõõtmed on olulised, varjutavad need sügavamat struktuurset nihet: tehisintellekt toob organisatsiooni hajutatud kognitsiooni.
Sellel nihkel on mõju mitte ainult tõhususele või automatiseerimisele, vaid ka sellele, kuidas teadmisi luuakse, valideeritakse ja aja jooksul institutsionaliseeritakse.
Käesoleva teksti keskne väide on, et tehisintellekti valitsemine on olemuslikult organisatsioonilise sidususe küsimus. Kui kognitsioon muutub osaliselt masinate vahendatuks, peab valitsemine tegelema mitte ainult riski ja kontrolliga, vaid ka tõlgendusstruktuuridega, mis organisatsiooni koos hoiavad.
1. Tehisintellekt toob kaasa hajutatud kognitsiooni
Kui tehisintellekti süsteeme kasutatakse analüüside koostamiseks, strateegiamaterjalide loomiseks või juhatuse tasemel ülevaadete struktureerimiseks, ei piirdu kognitsioon enam üksikisikute või meeskondadega. See jaguneb inimeste ja mudelite vahel.
Tehisintellekti süsteemid osalevad järgmises:
- probleemide raamimises
- alternatiivide genereerimises
- argumentide struktureerimises
- riskide kategoriseerimises
- otsustamise keele kujundamises
Selles tähenduses muutub tehisintellekt organisatsiooni tähendusloomeaparaadi osaks (Weick). See mõjutab mitte ainult väljundeid, vaid ka seda, kuidas tegelikkust ennast tõlgendatakse.
2. Hajutatud kognitsioon ilma ühiste raamistiketa tekitab killustumist
Kui organisatsiooni eri osad toetuvad erinevatele mudelitele, viipadele ja analüütilistele struktuuridele, ei ole tulemuseks kollektiivne intelligentsus, vaid epistemiline lahknemine.
Aja jooksul viib see järgmisele:
- ebajärjekindel riskitõlgendus
- lahknevad prioriseerimisloogikad
- kokkusobimatud otsustusartefaktid
- hägustunud vastutus
Kultuurilisest vaatenurgast (Schein) stabiliseerivad organisatsioone just ühised eeldused ja tõlgendusskeemid. Kui tehisintellekti vahendatud kognitsioon on koordineerimata, hakkavad need ühised eeldused lagunema.
Praktiline järeldus on lihtne: organisatsioonid võivad juba praegu luua otsustusmaterjale väliste suurte keelemudelite abil, mis toimivad väljaspool formaalseid juhtimisstruktuure. Ilma ühise tõlgendusarhitektuurita tekitab see struktuurset sidususetust.
3. ELi AI määrus tugevdab harmoniseerimise vajadust
ELi AI määrust ei tohiks läbimõeldud rakendamise korral käsitleda üksnes vastavuskoormana. See võib toimida harmoniseeriva mehhanismina.
Täpsustades rolle (pakkuja, kasutuselevõtja), riskiklassifikatsioone ja dokumenteerimisnõudeid, tõstatab määrus kaudselt sügavama küsimuse:
Kas organisatsioonil on tehisintellekti jaoks ühine otsustusarhitektuur?
Selles tähenduses toimib regulatsioon institutsionaliseeriva jõuna. See soodustab koondumist ühiste standardite, vastutuste ja aruandlusstruktuuride ümber.
4. Tehisintellekti valitsemine kui kultuuriline standardiseerimine
Valitsemist tõlgendatakse sageli kontrollide, auditite ja dokumentatsiooni süsteemina. Kuid tehisintellektimahukates keskkondades peab valitsemine käsitlema ka tõlgenduslikku joondatust.
Elujõuline tehisintellekti valitsemise mudel nõuab ühiseid raamistikke järgmise jaoks:
- riskide klassifitseerimine
- võimekuse küpsus
- vastutuse piirid
- kasutuselevõtu piirangud
- dokumenteerimisloogika
Ilma sellise harmoniseerimiseta muutub tehisintellekt kultuuriliselt ebasidusaks.
Ja kultuuriliselt ebasidusaid süsteeme ei saa skaleerida.
Seetõttu ei ole tehisintellekti valitsemine esmajoones õiguslik distsipliin. See on kultuuriline ja arhitektuurne distsipliin.
5. Tööriistad ja mudelid kui kultuurilised artefaktid
Tehisintellekti tööriistad ja mudelid ei ole neutraalsed utiliidid. Need sisaldavad kategooriaid, eeldusi ja otsustusloogikaid.
Kui need võetakse kasutusele laialdaselt, muutuvad need kultuurilisteks artefaktideks, kujundades seda, kuidas probleeme määratletakse ja kuidas autoriteeti teostatakse.
Seetõttu on tehisintellekti kasutuse standardiseerimine vähem hanke küsimus ja rohkem harjutus organisatsioonilise sidususe säilitamises ajas.
Mõjud
Reguleeritud organisatsioonide jaoks ei seisne peamine väljakutse üksnes selles, kas tehisintellekti süsteemid vastavad regulatsioonile, vaid selles, kas nende integreerimine säilitab epistemilise joondatuse.
Tehisintellekti edu või ebaedu sõltub arhitektuursetest tingimustest, mille sees see on põimitud:
- vastutuse selgus
- püsiv kontekst
- ühised tõlgendusstruktuurid
- regulatiivsete piirangutega joondatud valitsemismudelid
See vaatenurk suunab MokanTechi käimasolevat tööd, mille fookus on selliste struktuursete tingimuste kujundamisel, mis võimaldavad tehisintellekti süsteemidel toimida reguleeritud keskkondades sidusalt, juhitavalt ja kestlikult.