Tekoäly, hallinto ja organisatorinen koherenssi
Kannnanotto, jossa väitetään, että tekoälyn hallinta säännellyissä organisaatioissa on perustavanlaatuisesti kysymys hajautetusta kognitiosta, kulttuurisesta linjautumisesta ja arkkitehtonisesta koherenssista.
Pohjautuu Edgar Scheinin (kulttuuri), Karl Weickin (merkityksellistäminen) organisaatioteoriaan sekä institutionaalisiin näkökulmiin harmonisoinnista ja institutionalisoitumisesta.
Johdanto
Säännellyissä organisaatioissa tekoäly kehystetään usein joko tekniseksi käyttöönottohaasteeksi tai oikeudelliseksi vaatimustenmukaisuuskysymykseksi. Vaikka molemmilla ulottuvuuksilla on merkitystä, ne peittävät alleen syvemmän rakenteellisen muutoksen: tekoäly tuo organisaatioon hajautettua kognitiota.
Tällä muutoksella on vaikutuksia paitsi tehokkuuteen tai automaatioon myös siihen, miten tietoa tuotetaan, validoidaan ja institutionalisoidaan ajan kuluessa.
Tämän kirjoituksen keskeinen väite on, että tekoälyn hallinta on pohjimmiltaan kysymys organisatorisesta koherenssista. Kun kognitio välittyy osittain koneiden kautta, hallinnan on käsiteltävä riskien ja kontrollin lisäksi myös niitä tulkinnallisia rakenteita, jotka pitävät organisaation koossa.
1. Tekoäly tuo mukanaan hajautetun kognition
Kun tekoälyjärjestelmiä käytetään analyysien luonnosteluun, strategiamateriaalin tuottamiseen tai hallitustason muistioiden jäsentämiseen, kognitio ei enää rajoitu yksilöihin tai tiimeihin. Se jakautuu ihmisten ja mallien kesken.
Tekoälyjärjestelmät osallistuvat:
- ongelmien kehystämiseen
- vaihtoehtojen tuottamiseen
- argumenttien jäsentämiseen
- riskien luokitteluun
- päätöksenteon kielen muovaamiseen
Tässä mielessä tekoälystä tulee osa organisaation merkityksellistämisen välineistöä (Weick). Se vaikuttaa paitsi tuotoksiin myös siihen, miten todellisuutta itseään tulkitaan.
2. Hajautettu kognitio ilman yhteisiä viitekehyksiä synnyttää pirstoutumista
Jos organisaation eri osat nojaavat erilaisiin malleihin, kehotteisiin ja analyyttisiin rakenteisiin, tuloksena ei ole kollektiivinen älykkyys vaan episteminen eriytyminen.
Ajan myötä tämä johtaa:
- epäjohdonmukaiseen riskien tulkintaan
- eriytyneisiin priorisointilogiikoihin
- yhteensopimattomiin päätöksentekoartefakteihin
- hämärtyneeseen vastuunjakoon
Kulttuurisesta näkökulmasta (Schein) yhteiset oletukset ja tulkintaskemat ovat se, mikä vakauttaa organisaatioita. Kun tekoälyn välittämä kognitio on koordinoimatonta, nämä yhteiset oletukset alkavat rapautua.
Käytännön seuraus on suoraviivainen: organisaatiot saattavat jo nyt tuottaa päätöksentekomateriaalia ulkoisilla LLM-malleilla, jotka toimivat muodollisten hallintarakenteiden ulkopuolella. Ilman yhteistä tulkinnallista arkkitehtuuria tämä synnyttää rakenteellista epäkoherenssia.
3. EU:n AI Act vahvistaa harmonisoinnin tarvetta
EU:n AI Actia ei pidä nähdä vain vaatimustenmukaisuuden taakkana, jos se pannaan toimeen harkitusti. Se voi toimia harmonisoivana mekanismina.
Selkiyttämällä rooleja (provider, deployer), riskiluokituksia ja dokumentointivaatimuksia säädös nostaa implisiittisesti esiin syvemmän kysymyksen:
Onko organisaatiolla yhteinen tekoälyä koskeva päätösarkkitehtuuri?
Tässä mielessä sääntely toimii institutionalisoivana voimana. Se kannustaa lähentymiseen yhteisten standardien, vastuiden ja tilivelvollisuusrakenteiden ympärille.
4. Tekoälyn hallinta kulttuurisena standardisointina
Hallinta tulkitaan usein kontrollien, auditointien ja dokumentaation järjestelmäksi. Tekoälyintensiivisissä ympäristöissä hallinnan on kuitenkin käsiteltävä myös tulkinnallista linjautumista.
Toimiva tekoälyn hallintamalli edellyttää yhteisiä viitekehyksiä seuraaville:
- riskiluokittelu
- kyvykkyyden kypsyystaso
- vastuun rajapinnat
- käyttöönoton rajoitteet
- dokumentaation logiikka
Ilman tällaista harmonisointia tekoälystä tulee kulttuurisesti epäkoherenttia.
Ja kulttuurisesti epäkoherentit järjestelmät eivät skaalaudu.
Siksi tekoälyn hallinta ei ole ensisijaisesti juridinen vaan kulttuurinen ja arkkitehtoninen kysymys.
5. Työkalut ja mallit kulttuurisina artefakteina
Tekoälytyökalut ja -mallit eivät ole neutraaleja hyötyvälineitä. Ne sisältävät kategorioita, oletuksia ja päätöslogiikoita.
Kun niitä otetaan käyttöön laajassa mittakaavassa, niistä tulee kulttuurisia artefakteja, jotka muovaavat sitä, miten ongelmia määritellään ja miten valtaa käytetään.
Tekoälyn käytön standardointi on siksi vähemmän hankintakysymys ja enemmän harjoitus organisatorisen koherenssin säilyttämisessä ajan mittaan.
Vaikutukset
Säännellyille organisaatioille keskeinen haaste ei ole vain se, noudattavatko tekoälyjärjestelmät sääntelyä, vaan se, säilyttääkö niiden integrointi epistemisen linjautumisen.
Tekoälyn onnistuminen tai epäonnistuminen riippuu niistä arkkitehtonisista ehdoista, joiden puitteissa se upotetaan organisaatioon:
- vastuiden selkeys
- kestävä konteksti
- yhteiset tulkinnalliset rakenteet
- sääntelyrajoitteiden kanssa linjassa olevat hallintamallit
Tämä näkökulma ohjaa MokanTechissa tehtävää jatkuvaa työtä, jossa painopiste on sellaisten rakenteellisten edellytysten suunnittelussa, jotka mahdollistavat tekoälyjärjestelmien koherentin, hallittavan ja kestävän toiminnan säännellyissä ympäristöissä.