Kāpēc lielākā daļa cilvēku MI izmanto nepareizi
Šodien mākslīgais intelekts raksta tekstus, analizē dokumentus, veido biznesa plānus, piedāvā stratēģijas, palīdz pieņemt lēmumus un pat sniedz ieteikumus personīgās dzīves jautājumos. Jā, ta sir iespaidīgi! Taču, vērojot, kā cilvēki un uzņēmumi izmanto MI, es arvien biežāk aizdomājos par vienu būtisku problēmu.
Mēs esam iemācījušies uzdot jautājumus mākslīgajam intelektam, bet vai esam iemācījušies domāt kopā ar to?
Līdz šim IT vidē ieviešot kādu jaunu tehnoloģiju, atbildīgie par to vienmēr ir padziļināti pētījuši vai konkrētā tehnoloģija palīdzēs konkrētajā biznesa procesā? Kādi varētu būt riski? Kā tiks meklēti risinājumi? Katrs uzņēmums un organizācija izvēlējās savas tehnoloģijas, savus risinājumus. Manuprrāt, MI tehnoloģiju izvēlē kaut kas starp šo ir pazudis. Tas ir stāsts par cilvēka psiholoģiju, atbildību, bailēm kļūdīties, vēlmi saņemt apstiprinājumu un reizēm arī nevēlēšanos pašam pieņemt sarežģītus lēmumus.
Pirmās lamatas. Cilvēks sāk meklēt apstiprinājumu, nevis patiesību
Iedomājieties situāciju. Vadītājs ir pārliecināts, ka viņa uzņēmumā nepieciešams ieviest mākslīgo intelektu. Viņš atver ChatGPT un jautā: "Kāpēc mūsu uzņēmumam būtu jāievieš mākslīgais intelekts?"
MI sagatavo pārliecinošu atbildi. Tajā ir argumenti par efektivitāti, produktivitāti, izmaksu samazināšanu un konkurētspēju. Vadītājs ir apmierināts. Viņa pārliecība ir apstiprināta.
Ja mēs tā dzīļāk šajā procesā iedziļināmies, tad kas patiesībā notika? Vadītājs nemeklēja objektīvu izvērtējumu. Viņš meklēja argumentus jau pieņemtam lēmumam.
Psiholoģijā šo parādību sauc par apstiprinājuma aizspriedumu (confirmation bias). Cilvēkam ir dabiska tendence vairāk ievērot informāciju, kas atbalsta viņa esošos uzskatus. Līdzīgi kā ar cilvēkiem.
Mākslīgais intelekts šo tendenci var pastiprināt, jo tas spēj ļoti pārliecinoši strukturēt argumentus gandrīz jebkurai saprātīgi formulētai pozīcijai. Savukārt, ta sir viens no sarkanajiem karodziņiem.
Pārliecinoša atbilde vēl nenozīmē pareizu lēmumu.
Kā būtu, ja vadītājs uzdotu pavisam citu jautājumu: "Kādos apstākļos mākslīgā intelekta ieviešana mūsu uzņēmumā būtu kļūda? Kādi dati mums nepieciešami, lai objektīvi izvērtētu šādu investīciju?"
Tagad saruna iegūtu pavisam citu kvalitāti. MI vairs nebūtu instruments vadītāja pārliecības nostiprināšanai. Tas kļūtu par instrumentu viņa domāšanas pārbaudei. Tā ir milzīga atšķirība.
Otrās lamatas. Cilvēks nemanot atdod MI savu domāšanu
Šīs lamatas ir vēl smalkākas. Sākumā cilvēks izmanto MI, lai ietaupītu laiku. Pēc tam, lai uzrakstītu sarežģītāku tekstu. Vēlāk, lai izanalizētu situāciju. Pienāk brīdis, kad cilvēks tik ļoti pieradis pie šī procesa, ka vairs nespēj izdomāt, ko tālāk viņam darīt. Tāpēc svarīgi saprast atšķirību starp palīdzību domāšanā un domāšanas aizstāšanu.
Ja cilvēks izmanto MI, lai iegūtu alternatīvus skatpunktus, pārbaudītu argumentus un ieraudzītu nepamanītus riskus, tehnoloģija var stiprināt viņa intelektuālās spējas. Savukārt, ja cilvēks regulāri pieņem MI piedāvātos secinājumus bez pārbaudes, var attīstīties pārmērīga paļaušanās uz automatizāciju.
Psiholoģijā un cilvēka–tehnoloģiju mijiedarbības pētniecībā to saista ar automation bias jeb tendenci pārlieku uzticēties automatizētas sistēmas ieteikumiem.
Padomājiet. Ja mēs katru sarežģītu jautājumu uzreiz nododam MI, kurā brīdī mēs paši trenējam spēju analizēt? Ja mēs ļaujam katru konfliktu mūsu vietā interpretēt algoritmm, tad kā mēs attīstām savu emocionālo inteliģenci? Ja mēs katru biznesa lēmumu lūdzam formulēt MI, vai mēs nākotnē spēsim patstāvīgi izveidot savu argumentāciju?
Tas nenozīmē, ka MI izmantošana padara cilvēku mazāk gudru. Taču pastāv risks, ka mēs sākam taupīt laiku tieši uz to procesu rēķina, kuri attīsta mūsu domāšanu.
Tāpēc rodas neparasta likumsakarība. It kā mēs izmantojam MI, lai kļūtu efektīvāki, bet nepareizi lietots MI var padarīt mūs atkarīgākus no ārējām atbildēm.
Trešās lamatas. Skaisti formulēta atbilde rada kompetences ilūziju
Šī ir viena no nopietnākajām problēmām biznesā. Iedomājieties uzņēmuma vadītāju, kurš lūdz MI sagatavot piecu gadu attīstības stratēģiju. Pēc dažām minūtēm viņam ir dokuments, kur redzami mērķi, priorotātes, pat KPI, visi iespējamie riski un ieviešanas grafiki. Viss izskatās ļoti skaisti un eleganti. Skatoties uz to, rodas jautājums. Vai uzņēmumam tagad ir stratēģija? Ne obligāti. Tam ir tikai dokuments, kas izskatās pēc stratēģijas.
Lai izstrādātu īstu stratēģiju, ir jāsaprot uzņēmuma faktiskā situācija, klientu vajadzības, konkurence, finanšu iespējas, darbinieku kompetences, tirgus ierobežojumi un vadības gatavība pieņemt konkrētus lēmumus. Savukārt, šīs sagatavotā MI informācijas var izveidot loģiski strukturētu, bet virspusēju plānu.
Lielākās briesmas nav tajā, ka MI var kļūdīties. Lielākās briesmas ir tajā, ka kļūdains vai nepamatots rezultāts var izskatīties ļoti profesionāls.
Cilvēki mēdz sajaukt informācijas kvalitāti ar tās pasniegšanas kvalitāti. To es saucu par kompetences izlūziju. Mēs sākam justies tā, it kā jautājumu būtu dziļi izpratuši, lai gan patiesībā esam tikai izlasījuši labi strukturētu atbildi. Vadītājam tas var maksāt ļoti dārgi. Jo uzņēmumā par kļūdainiem stratēģiskiem lēmumiem maksā nevis algoritms, bet cilvēki, organizācija un tās klienti.
Ceturtās lamatas. Produktivitātes ilūzija
Šodien cilvēks ar MI palīdzību var vienā stundā sagatavot desmit rakstus, piecus piedāvājumus, trīs biznesa idejas un vairākas prezentācijas. Viņam rodas sajūta, ka viņš ir paveicis milzīgu darbu. Ņemot vērā visu šo, gribas uzdot jautājumu: “Vai radītā satura daudzums ir tas pats, kas radītā vērtība?”
Uzņēmums var saražot simtiem MI ģenerētu reklāmas tekstu, bet nepiesaistīt nevienu jaunu klientu. Vadītājs var saņemt desmitiem analītisku pārskatu, bet nepieņemt nevienu būtisku lēmumu. Speciālists var sagatavot daudzus projektu piedāvājumus, bet nevienu no tiem nepārvērst reālā rezultātā. Šeit arī rodas šīs biznesa lamatas, ka aktivitāte tiek sajaukta ar progresu.
MI ļauj ļoti ātri radīt darba rezultātam līdzīgus produktus. Taču biznesā svarīgākais jautājums ir cits: “Kas pēc šī darba ir mainījies?”
- Vai klientam ir atrisināta problēma?
- Vai uzņēmums ir samazinājis kļūdu skaitu?
- Vai darbinieks spēj pieņemt kvalitatīvākus lēmumus?
- Vai ir uzlabojies pakalpojums?
- Vai ir radīta izmērāma ekonomiskā vērtība?
Ja atbilde ir nē, tad iespējams, ka mēs esam tikai paātrinājuši darbību, kurai nav pietiekamas vērtības.
MI var palīdzēt paveikt vairāk. Bet tikai cilvēks var noteikt, vai vispār ir vērts to darīt.
Piektās lamatas. Atbildības nodošana algoritmam
Iedomājieties, ka uzņēmums ievieš MI risinājumu klientu pieprasījumu izvērtēšanai. Sistēma analizē datus un iesaka lēmumus. Kādā brīdī tiek pieņemts kļūdains lēmums, kas klientam rada zaudējumus.
Kurš ir atbildīgs? Programmatūras izstrādātājs? MI modelis? Vadītājs? Darbinieks, kurš apstiprināja rezultātu?
Šeit atklājas vēl viena problēma. Cilvēki sāk uztvert MI kā neatkarīgu autoritāti.
- "Tā ieteica sistēma."
- "MI tā aprēķināja."
- "Algoritms pieņēma šādu lēmumu."
Šādi formulējumi var nemanot radīt iespaidu, ka atbildība ir pārvietojusies no cilvēka uz tehnoloģiju. Taču MI sistēma pati par sevi nevar uzņemties organizācijas juridisko, profesionālo vai ētisko atbildību. Atbildības sadalījums ir jānosaka cilvēkiem un organizācijām, ņemot vērā konkrēto lietojumu un piemērojamos noteikumus.
Tāpēc ikvienam vadītājam pirms MI ieviešanas būtu jāuzdod pieci jautājumi:
- Ko tieši mēs uzticam MI?
- Kā pārbaudīsim rezultātu kvalitāti?
- Kādas kļūdas ir pieļaujamas un kādas nav?
- Kurš cilvēks ir atbildīgs par rezultātu?
- Kas notiks, ja MI pieļaus būtisku kļūdu?
Ja uzņēmums uz šiem jautājumiem nespēj atbildēt, tas vēl nav gatavs droši uzticēt MI attiecīgo procesu.
Sestās lamatas. MI kļūst par emocionālu spoguli
Tagad paskatīsimies ārpus biznesa procesiem. Cilvēks piedzīvo konfliktu ar kolēģi, partneri vai vadītāju. Viņš atver MI un apraksta situāciju. Protams, no sava skatpunkta. Viņš pastāsta, ko otrs cilvēks ir pateicis, kā rīkojies un cik netaisnīga šķiet situācija. MI var piedāvāt empātisku atbildi. Tas var atzīt cilvēka emocijas un palīdzēt tās nosaukt. Tas pats par sevi ir vērtīgi. Taču, ja MI nekritiski pieņem vienpusēju situācijas aprakstu, tas var nostiprināt cilvēka sākotnējo interpretāciju. Cilvēks aizver sarunu vēl pārliecinātāks, ka viņam ir taisnība. Bet vai viņš ir kļuvis tuvāk konflikta atrisinājumam? Varbūt. Bet varbūt viņš ir tikai saņēmis intelektuāli noformētu apstiprinājumu savām emocijām.
Šeit ir tāda ļoti slidena robeža, kas jau skar psiholoģisku jautājumu. Vai mēs izmantojam MI, lai labāk izprastu sevi, vai lai izvairītos ieraudzīt to, ko par sevi nevēlamies atzīt? Viss ir atkarīgs no tā, kāda veida jautājums šim MI tiek uzdots. Ja tas skan: "Kāpēc otrs cilvēks pret mani tā izturas?" Tad tas nenāks par labu cilvēkam. Savukārt, ja tiks uzdots sekojošu jautājumu virkne: "Kādas ir trīs iespējamās šīs situācijas interpretācijas? Ko es varētu būt palaidis garām? Kādi jautājumi man būtu jāuzdod otram cilvēkam, pirms izdaru secinājumus?"
Šādi MI var palīdzēt attīstīt refleksiju, nevis tikai apstiprināt cilvēka emocijas. Protams, MI nevar zināt otra cilvēka patiesos nodomus vai aizstāt dzīvu sarunu. Tāpēc šī robeža ir ļoti būtiska.
Septītās lamatas. Uzņēmumi sāk risināt nepareizās problēmas
Šīs lamatas man šķiet īpaši aktuālas šodien. Uzņēmuma vadība dzird, ka konkurenti ievieš mākslīgo intelektu. Parādās spiediens. Arī mums vajag. Mums vajag būt moderniem. Nepieciešams tuvākajā laikā izstrādāt kādu MI projektu. Tiek organizētas sapulces, meklēti piegādātāji, veidoti budžeti. Bet kāds ir pats pirmais jautājums, kuru vajadzētu uzdot?
Kādu konkrētu biznesa problēmu mēs vēlamies atrisināt?
Varbūt uzņēmuma lielākā problēma ir nesakārtoti procesi. Vai nekvalitatīvie dati. Darbiniekiem trūkst skaidru pienākumu. Varbūt klientu apkalpošana ir lēna nevis tehnoloģiju trūkuma, bet nepareizi organizēta darba dēļ.
Ja šādā situācijā ievieš MI, iespējams, uzņēmums vienkārši automatizēs jau esošo haosu. Rezultātā šis haoss kļūs ātrāks. Tehnoloģiski modernāks. Iespējams, arī dārgāks. Taču tas joprojām būs haoss.
Tāpēc es uzskatu, ka MI ieviešanai uzņēmumā jāsākas nevis ar tehnoloģijas izvēli, bet ar biznesa procesu un vajadzību izpratni. Vispirms definējam problēmu. Veicam datu izpēti. Tad domājam par iespējamiem risinājumiem. Tikai pēc tam par tehnoloģijām un investīvu lēmumu.
Visa šī izpētes procesa laikā kļūs skaidrs, vai tiešām MI risinājums būs tas labākais. Varbūt pietiks ar vienkāršu automatizāciju. Vai esošās programmatūras pareiza izmantošana.
Manuprāt, uzņēmumam vispirms būs nepieciešama vadības pieejas maiņa. Tieši to ir svarīgi spēt atzīt. Ja mēs spējam to atzīt, tad uzņēmuma attīstībai šķēršļu nav.
Patiesā transformācija sākas tad, kad mēs mainām savu attieksmi pret MI.
Es nevēlos, lai šis raksts radītu iespaidu, ka mākslīgais intelekts ir slikts vai bīstams pats par sevi. Gluži pretēji. Tajā es redzu milzīgu potenciālu. Tas var palīdzēt cilvēkiem mācīties, analizēt sarežģītas situācijas, attīstīt idejas, atklāt nepamanītas sakarības un pieņemt labāk informētus lēmumus. Taču tā vērtība ir atkarīga ne tikai no tehnoloģijas iespējām. Tā ir atkarīga arī no cilvēka, kurš šo tehnoloģiju izmanto. No viņa spējas uzdot jautājumus. No gatavības apšaubīt savus pieņēmumus. No prasmes atšķirt faktus no interpretācijām. Kā arī, no drosmes uzņemties atbildību. Visos posmos vēlme domāt patstāvīgi.
Manuprāt, viena no lielākajām kļūdām ir uztvert MI kā gudrāku cilvēku, kuram vienmēr ir pareizā atbilde. MI nav cilvēks ar dzīves pieredzi, personīgu atbildību un izpratni par visiem mūsu dzīves apstākļiem. Tas ir ļoti spēcīgs instruments, kura rezultāti ir jāvērtē atbilstoši situācijai. Tāpēc es piedāvāju mainīt pieeju.
- Nevis jautāt MI, ko man domāt, bet izmantot MI, lai ieraudzītu, kā vēl es varētu domāt.
- Nevis prasīt tikai gatavu risinājumu, bet lūgt analizēt arī tā vājās vietas.
- Nevis meklēt apstiprinājumu savam viedoklim, bet apzināti pārbaudīt pretargumentus.
- Nevis uzticēt algoritmam visu atbildību, bet izmantot to, lai paša lēmumi kļūtu pārdomātāki.
- Nevis censties automatizēt visu iespējamo, bet saprast, kas patiesībā rada vērtību.
Pieci jautājumi, kurus vērts uzdot sev pirms nākamās MI sarunas
Pirms nākamreiz atverat ChatGPT vai citu MI rīku, pamēģiniet sev pajautāt:
- Vai es meklēju patiesu izpratni vai tikai apstiprinājumu tam, kam jau ticu?
- Vai esmu sniedzis pietiekami daudz faktu, lai atbilde būtu pamatota?
- Vai es spēšu pats izskaidrot un aizstāvēt saņemto secinājumu?
- Kā es pārbaudīšu, vai MI sniegtā informācija ir pareiza?
- Vai šī saruna palīdz man kļūt patstāvīgākam vai tikai ērtāk saņemt gatavas atbildes?
Šie jautājumi var būt daudz vērtīgāki par vēl vienu sarežģītu MI uzvedni.
Cilvēces vēsturē tehnoloģijas vienmēr ir palīdzējušas mums pārvarēt ierobežojumus. Automašīna palīdz pārvietoties ātrāk. Kalkulators palīdz rēķināt. Internets mūsdienās palīdz piekļūt informācijai, spēj tik šķirot. Mākslīgais intelekts palīdz strādāt ar informāciju, idejām un sarežģītiem uzdevumiem.
Taču šoreiz tehnoloģija ienāk īpaši jutīgā teritorijā, tas ir, mūsu domāšanas procesos. Kas liek uzdot jautājumu, kuru nevar atrisināt ar vēl jaudīgāku algoritmu.
Vai mēs izmantojam mākslīgo intelektu, lai paplašinātu savas spējas, vai pamazām atsakāmies no spējas domāt patstāvīgi?
Es ticu, ka nākotnē lielākā priekšrocība nebūs tiem, kuri prot ģenerēt visvairāk tekstu, prezentāciju vai biznesa plānu. Tā būs tiem, kuri spēj apvienot tehnoloģijas jaudu ar kritisko domāšanu, profesionālu pieredzi, emocionālo inteliģenci un atbildību. Patiesā inteliģence nav tikai spēja ātri atrast atbildi. Tā ir arī spēja saprast, kad atbilde ir nepareiza, kad jautājums ir uzdots nepareizi un kad vispār ir nepieciešams apstāties un padomāt pašam.
Manuprāt, mēs ienākam īpašā transformācijas laikā. Jā, MI var palīdzēt mums domāt ātrāk, bet mums pašiem jāparūpējas par to, lai mēs domātu dziļāk.
Tagad man ir jautājums jums.
Vai esat kādreiz pieķēruši sevi situācijā, kad mākslīgajam intelektam jautājāt nevis tāpēc, lai uzzinātu kaut ko jaunu, bet tāpēc, lai tas apstiprinātu jūsu jau pieņemto lēmumu?
Tālāk jautājums vadītājiem:
Ja rīt jūsu uzņēmumā pazustu visi MI rīki, vai darbinieki joprojām spētu patstāvīgi izskaidrot, kāpēc viņi pieņem konkrētus lēmumus?
Pieļauju, ka atbilde uz šo jautājumu par jūsu organizācijas gatavību MI laikmetam pateiks vairāk nekā jebkurš tehnoloģiju ieviešanas pārskats.