"57 miljoni ierakstu, nulle pārvaldības" — Kad ambīcijas apsteidz atbildību

Twin Ladder Casebook Series | Twin Ladder | 2026. gada februāris

Ievads

Kādā brīdī 2024. gadā ģimenes ārsts Anglijā saņēma informāciju par MI modeli ar nosaukumu Foresight. Modelis spēja prognozēt pacientu veselības trajektorijas — paredzēt hospitalizācijas, identificēt agrīnas intervences kandidātus, kartēt hronisko slimību iespējamo gaitu. Pēc jebkuras metrikas tā bija iespaidīga medicīniskā MI tehnoloģija. Tā arī bija apmācīta uz ģimenes ārstu prakses datiem. Datiem no piecdesmit septiņiem miljoniem pacientu visā valstī. Datiem, kas bija savākti pandēmijas laikā COVID-19 pētniecības vajadzībām.

Neviens viņiem par to nebija teicis.

Ģimenes ārsts nebija konsultēts par savu pacientu datu izmantošanu MI apmācībai. Pacienti nebija informēti. Profesionālās organizācijas, kas pārstāv ģimenes ārstus — Britu Medicīnas asociācija un Karaliskā ģimenes ārstu koledža — netika informētas, ka COVID laikmetā ar ārkārtas noteikumiem savāktie dati tiek pārveidoti ģeneratīvā MI modeļa apmācībai. Datu koplietošanas līgums pastāvēja. Pārvaldības ietvērums — nē.

gada jūnijā Apvienotā ģimenes ārstu IT komiteja rakstīja NHS England ar četriem vārdiem, kas apturēja vērienīgāko sabiedrības veselības MI projektu Lielbritānijas vēsturē: "nopietnas bažas par likumību."

Stāsts

Foresight: Solījums un plaisa

Foresight tika iecerēts kā Nacionālā veselības dienesta pamata modelis. Izstrādāts Universitātes koledžas Londonā un Karaļa koledžas Londonā pētnieku vadībā saskaņā ar datu koplietošanas līgumu, ko starpniecēja British Heart Foundation Data Science Centre, modelis bija paredzēts kā automātiskās papildināšanas sistēma medicīniskajām laika līnijām. Ievadiet pacientam vēsturi, un tas prognozē, kas notiks tālāk — ne ar primitīvu lēmumu koka likumsakarību saskatīšanu, bet ar liela valodas modeļa probabilistisko izsmalcinātību, kas apmācīts uz desmitgadēm klīnisko ierakstu.

Tehniskās ambīcijas bija leģitīmas. NHS glabā vienu no bagātākajiem ilgtermiņa veselības datu kopām pasaulē. Agrīnas diagnostikas, mērķtiecīgas intervences un uz prognozējošo izlūkdatu balstītas resursu piešķiršanas potenciāls ir milzīgs. NHS England raksturoja Foresight kā "revolucionāru" un pozicionēja to kā valsts digitālās veselības stratēģijas centrālo elementu.

Taču datu plūsma stāstīja citu stāstu. Piecdesmit septiņi miljoni pacientu ierakstu, kas tika izmantoti Foresight apmācībai, bija savākti caur General Practice Data for Planning and Research (GPDPR) programmu. Šī programma pati par sevi bija pretrunīga — apturēta 2021. gadā pēc sabiedrības sašutuma par nepietiekamu caurskatāmību. Kad datu plūsma atsākās, tā notika saskaņā ar datu koplietošanas līgumu, ko GP Profession Advisory Group bija pārskatījusi. Bet līgums attiecās uz vispārējo datu koplietošanas ietvērumu, nevis konkrēto lietojumu MI modeļa apmācībai. Ārsti, kas pārskatīja vispārējo līgumu, netika īpaši konsultēti par Foresight. Atšķirība starp ietvēruma pārskatīšanu un piekrišanu konkrētam lietojumam ir tieši vieta, kur dzīvo pārvaldība — un tieši vieta, kur tā bija prombūtnē.

Apvienotā GP IT komiteja, kas pārstāv gan BMA, gan RCGP, neiebilda pret prognozējošā veselības MI koncepciju. Tā iebilda pret procesu. Komiteja paziņoja, ka tai ir "nopietnas bažas par datu izmantošanas likumību šajā projektā" un uzsvēra "acīmredzamu stingru pārvaldības kārtības trūkumu." Tā lūdza NHS England pašai vērsties Informācijas komisāra birojā, lai tiktu noskaidroti pilni apstākļi. NHS England piekrita apturēt projektu, kamēr tās datu aizsardzības speciālists veic pārskatīšanu, lai apstiprinātu VDAR principu ievērošanu.

Apturēšana nebija MI noraidīšana. Tā bija atzīšana, ka piecdesmit septiņu miljonu cilvēku medicīniskie ieraksti bija iekļuvuši MI apmācības plūsmā bez pārvaldības infrastruktūras, ko šāds lietojums prasa.

Oracle Health Zviedrijā: Kad dati sabojājas

NHS nebija vienīgā sabiedrības veselības sistēma, kas atklāja, ka digitālās ambīcijas bez pārvaldības infrastruktūras rada neveiksmi. 2024. gada novembrī Zviedrijas Västra Götaland reģions — atbildīgs par veselības aprūpi 1,7 miljoniem iedzīvotāju — uzsāka Oracle Health Millennium elektronisko veselības ierakstu sistēmu. Projekta budžets bija 2,1 miljards Zviedrijas kronu, aptuveni 190 miljoni ASV dolāru. Tas ilga trīs dienas.

Septiņdesmit divu stundu laikā pēc palaišanas veselības aprūpes personāls ziņoja, ka sistēma rada transkribcijas kļūdas pacientu ierakstos. Klīniskajās piezīmēs trūka vārdu. Veselības ieraksta — visvairāk kritiskā dokumenta pacientu aprūpē — integritāte bija apdraudēta. Personāls protestēja, ka pacientu drošība vairs nav garantējama. Sistēma tika apturēta, un reģions atgriezās pie savas mantotās infrastruktūras.

Zviedrijas Medicīnas produktu aģentūra uzsāka izmeklēšanu. Reģionālā iestāde iesniedza sākotnējo ziņojumu IMY, Zviedrijas datu aizsardzības iestādei, atzīstot, ka incidenti skāra personas datus. 190 miljonu dolāru ieviešana tika neatgriezeniski pamesta.

Oracle Health neveiksme Västra Götaland nebija MI stāsts šaurā nozīmē. Tas bija datu pārvaldības stāsts. Sistēma neizdevās ne tāpēc, ka tehnoloģija bija nespējīga, bet tāpēc, ka ieviešanai trūka pārvaldības mehānismu, lai nodrošinātu datu integritāti plašā mērogā. Dārgākā veselības ierakstu sistēma, kas jebkad ieviesta Skandināvijā, nespēja garantēt, ka pacienta ieraksts satur vārdus, ko viņa klīnicists bija rakstījis.

Krūškurvja diagnostikas ieviešana: Pārvaldība pēdējā jūdzē

Atpakaļ Anglijā paralēls stāsts ritēja diagnostiskajā attēlveidošanā. 2023. gadā NHS England uzsāka divdesmit viena miljona mārciņu programmu MI diagnostikas rīku ieviešanai sešdesmit sešos slimnīcu trastos, organizētos divpadsmit attēlveidošanas tīklos. Rīki bija paredzēti steidzamu krūškurvja skenēšanas gadījumu prioritizēšanai, anomāliju izcēlšanai radioloģijas speciālistu pārskatīšanai un plaušu vēža agrīnākai atklāšanai.

Tehnoloģija darbojās. Pārvaldība nemērogojās.

Pētījums, publicēts The Lancet eClinicalMedicine 2025. gada septembrī — viens no pirmajiem stingrajiem liela mēroga MI ieviešanas novērtējumiem ārpus laboratorijas apstākļiem — konstatēja, ka astoņpadsmit mēnešus pēc tam, kad līgumslēgšanai vajadzēja būt pabeigtai, trešdaļa iesaistīto trastu joprojām neizmantoja MI rīkus klīniskajā praksē. Divdesmit trīs no sešdesmit sešiem trastiem tehnoloģija bija pieejama, bet nebija integrēta to diagnostikas darba plūsmās.

Šķēršļi nebija tehniski. Līgumslēgšana prasīja par četriem līdz desmit mēnešiem ilgāk, nekā paredzēts. Klīniskais personāls, kas jau strādāja smagas darba slodzes apstākļos, nevarēja atrast laiku iesaistīties atlases procesā, atbalstīt integrāciju ar vietējām IT sistēmām vai iegūt vietējās pārvaldības atļaujas. Dažus trastus pārspieda augsti tehniskās dokumentācijas apjoms, kas bija nepieciešams rīku novērtēšanai un apstiprināšanai. Integrācija ar novecojušu, neviendabīgu IT infrastruktūru vēl vairāk palēnināja progresu.

Pētījums atklāja likumsakarību, ko Foresight gadījums izgaismoja no cita skatpunkta: NHS bija ambīcijas un finansējums MI ieviešanai valsts mērogā, bet pārvaldības kapacitāte ieviešanas punktā — individuālajā trastā, individuālajā klīnicistā, individuālajā IT sistēmā — nebija uzbūvēta. Tehnoloģija bija klāt. Organizatoriskā kompetence to saņemt — nebija.

Pa to laiku drošības ietvērumi, kam bija jāpārvalda šīs ieviešanas, nebija turējuši līdzi. Klīniskā riska standarti DCB0129 un DCB0160, regulatīvais pamats digitālo veselības tehnoloģiju drošībai NHS, bija veidoti prognozējamai, fiksētas loģikas programmatūrai — sistēmām, kas uzvedas konsekventi un rada deterministiskus rezultātus. Mūsdienu MI sistēmas adaptējas laika gaitā. Tās maina savus rezultātus, balstoties uz iepriekšējo ievadi. Tās ir probabilistiskas, ne deterministiskas. Šķērsgriezuma pētījums, publicēts Journal of Medical Internet Research, konstatēja, ka tikai 25,6 procenti ieviesto digitālo veselības tehnoloģiju NHS bija pilnībā apliecinātas pret šiem standartiem. Ietvērumi, kas bija būvēti statiskai programmatūrai, tika piemēroti dinamiskai MI, un plaisa pieauga.

Caur Twin Ladder prizmu

Twin Ladder ietvērums definē četrus progresīvus MI kompetences līmeņus. 0. līmenis ir MI pratības pamats — bāzes spēja kritiski izvērtēt MI radīto, saprast, no kurienes tas nāk, un novērtēt, vai tā rezultātiem var uzticēties. 1. līmenis ir Profesionālais dvīnis. 2. līmenis ir Operacionālais dvīnis. 3. līmenis ir Ekosistēmas dvīnis. Katrs līmenis balstās uz zemāko. Pa kāpnēm kāpj, nevis lec.

NHS Foresight gadījums ir visfundamentālākā veida 0. līmeņa neveiksme.

līmenis, kā aprakstīts ietvērumā, nozīmē bāzes spēju kritiski novērtēt MI ģenerētu rezultātu. Taču tas nozīmē arī kaut ko elementārāku: zināt, kādi dati jums ir, no kurienes tie nāk, kas piekritis to izmantošanai un ar kādiem nosacījumiem tos drīkst apstrādāt. Datu pārvaldība nav atsevišķa problēma no MI pratības. Tā ir substrāts, uz kura MI pratība tiek būvēta. Jūs nevarat kritiski izvērtēt MI rezultātu, ja nezināt, uz kā MI tika apmācīts. Jūs nevarat novērtēt prognozes ticamību, ja nevarat izsekot datu izcelsmi, kas to radīja.

NHS bija datu apjoms, lai uzbūvētu pasaules klases prognozējošo veselības modeli. Piecdesmit septiņi miljoni ilgtermiņa pacientu ierakstu ir neparasti bagāta datu kopa. Bet NHS nebija pārvaldības infrastruktūra, lai nodrošinātu, ka datu ceļojums no klīniskās tikšanās līdz MI apmācības kopai bija caurskatāms, likumīgs un atbildīgs. Datu koplietošanas līgums pastāvēja. Konkrēta piekrišana šim konkrētajam lietojumam — nē. Profesionālās organizācijas, ar kurām vajadzēja konsultēties, netika konsultētas. Pacienti, kuru ieraksti tika apstrādāti, netika informēti.

Lūk, ko nozīmē mēģināt ieviest MI, nekāpjot pa kāpnēm. Nekāds algoritmiskais izsmalcinātāms nekompensē nepārvaldītus datus. Modelis, kas apmācīts uz piecdesmit septiņiem miljoniem ierakstu, nav ticamāks par modeli, kas apmācīts uz piecdesmit septiņiem tūkstošiem, ja neviens no tiem nespēj pierādīt, ka dati tika savākti, koplietoti un apstrādāti pārvaldības ietvarā, kuram pacienti, klīnicisti un regulatori var uzticēties. Prognozējošais spēks nav būtisks, ja pamats ir kompromitēts.

Krūškurvja diagnostikas ieviešana stāsta to pašu stāstu no cita skatpunkta. MI rīki bija pieejami. Trastiem, kas nevarēja tos ieviest, netrūka tehnoloģijas. Tiem trūka pārvaldības kapacitātes — personāla laika, iepirkumu ekspertīzes, IT integrācijas spēju, vietējo apstiprināšanas procesu — lai saņemtu tehnoloģiju atbildīgi. Pa kāpnēm nevar kāpt, ja pirmais stāvs nav uzbūvēts.

Twin Ladder ietvērums prognozē šo rezultātu. Organizācija, kas mēģina darboties 2. vai 3. līmenī — ieviešot operacionālo MI desmitiem slimnīcu, apmācot ekosistēmas līmeņa modeļus uz valsts datu kopām — neizveidojusi 0. līmeņa pārvaldību, radīs tieši to, ko radīja NHS: ambiciozu tehnoloģiju, kas apstājas, iepauzējas vai izgāžas, saskaroties ar pārvaldības jautājumiem, uz kuriem bija jāatbild pirms ieviešanas sākuma.

Likumsakarība

NHS nav izolēts gadījums. Tā ir visredzamākā instance likumsakarībai, kas atkārtojas publiskā sektora MI ieviešanās Eiropā: ambicioza tehnoloģija, nepietiekama pārvaldība un pārslogoti darbinieki, kas nespēj iesaistīties ne vienā, ne otrā.

Zviedrijā, ārpus Oracle Health debakla, nacionālā Sociālās apdrošināšanas aģentūra (Försäkringskassan) tika pieķerta, izmantojot mašīnmācīšanās sistēmu, kas neproporcionāli atzīmēja sievietes, cilvēkus ar ārvalstu izcelsmi, mazo ienākumu saņēmējus un personas bez augstākās izglītības krāpšanas izmeklēšanai. Sistēma tika apturēta izmeklēšanas laikā. Apvienotajā Karalistē Amnesty International un Big Brother Watch dokumentēja, ka Darba un pensiju departamenta Universal Credit Advances modelis uzrādīja statistiski nozīmīgu novirzi vecuma, pilsonības, attiecību statusa un ziņotās slimības ziņā — kamēr DWP aizsargāja savas MI ieviešanas no sabiedriskās pārbaudes.

Likumsakarībai ir trīs konsekventi elementi. Pirmkārt, dati pastāv un tehniskā kapacitāte to apstrādei pastāv, radot gravitācijas vilci ieviešanas virzienā. Otrkārt, pārvaldības infrastruktūra — piekrišanas ietvēri, novirzes auditēšana, caurskatāmības mehānismi, personāla apmācība — nepastāv tādā pašā brieduma līmenī. Treškārt, cilvēki, kuriem jāievieš, jāuzrauga un kurus skar sistēma, ir vai nu pārāk noslogoti, lai iesaistītos, vai pārāk izslēgti, lai iebilstu.

Eiropas Savienības MI akts, kas stājās spēkā 2024. gada augustā un būs pilnībā piemērojams līdz 2026. gada augustam, tika veidots, lai risinātu tieši šo likumsakarību. Akts klasificē MI sistēmas, kas izmantotas sabiedriskajos pakalpojumos, veselības aprūpē un labklājībā, kā augsta riska sistēmas, nosakot prasības datu pārvaldībai, caurskatāmībai, cilvēka uzraudzībai un novirzes monitoringam. Eiropas Veselības datu telpa ar pakāpenisku ieviešanu, sākot no 2026. gada marta, ievieš papildu pienākumus savietojamībai, piekļuves kontrolei un elektronisko veselības ierakstu detalizētai reģistrēšanai.

Taču regulējums vien nebūvē kompetenci. 2025. gada septembra vidū aptuveni trešdaļa ES dalībvalstu vēl nebija iecēlušas Akta prasītās nacionālās kompetentās iestādes. Regulējums pastāv. Institucionālā kapacitāte to ieviest vēl tiek būvēta. Tā ir pārvaldības plaisa kontinentālā mērogā — un tā atspoguļo trastu līmeņa plaisu, kas apturēja NHS krūškurvja diagnostikas ieviešanu.

Mācība no katra gadījuma šajā likumsakarībā ir viena un tā pati. Tehnoloģija nav šaurā vieta. Pārvaldība ir šaurā vieta. Un pārvaldību nebūvē, iegādājoties programmatūru vai pieņemot likumus. To būvē, attīstot organizatorisku kompetenci zināt, kādi dati pastāv, no kurienes tie nāk, kam ir piekļuve tiem un vai to izmantošana ir likumīga, ētiska un caurskatāma. Šī kompetence ir 0. līmenis. Bez tā pa kāpnēm nevar kāpt.

Mācība

Pārvaldība nav birokrātija. Tā nav dokumentu kārtošana, kas palēnina inovāciju. Tā ir kompetence zināt, kādi dati jums ir, no kurienes tie nāk, kas piekritis to izmantošanai un kas notiek, kad tie pārvietojas no viena mērķa uz citu. Tā ir institucionālā kapacitāte jebkurā brīdī atbildēt uz jautājumu: "Vai mums vajadzētu to darīt, un vai mēs varam pierādīt kāpēc?"

NHS netrūka datu. Tai netrūka tehnoloģiskā talanta. Tai netrūka ambīciju. Tai trūka pārvaldības infrastruktūras, lai nodrošinātu, ka piecdesmit septiņu miljonu pacientu ieraksti virzās caur plūsmu, kas ir caurskatāma, atbildīga un likumīga. Oracle Health ieviešanai Zviedrijā netrūka finansējuma. Tai trūka pārvaldības mehānismu, lai nodrošinātu datu integritātes uzturēšanu ieviešanas punktā. Krūškurvja diagnostikas programmai netrūka tehnoloģijas. Tai trūka pārvaldības kapacitātes trastu līmenī, lai saņemtu šo tehnoloģiju atbildīgi.

Katrai organizācijai, kas apsver MI ieviešanu, vajadzētu sākt ne ar algoritmu, bet ar inventarizāciju. Kādus datus jūs glabājat? Uz kāda tiesiskā pamata tie tika savākti? Kas piekrita, un kam? Kas notiek, kad mainās mērķis? Kas ir atbildīgs par atbilžu sniegšanu uz šiem jautājumiem, un vai viņiem ir pilnvaras un resursi to darīt?

Sāciet ar inventarizāciju, ne ar algoritmu. Būvējiet pārvaldību pirms modeļa. Izveidojiet 0. līmeni, pirms stiepjaties pēc 3. līmeņa. Pa kāpnēm kāpj, nevis lec — un pirmais pakāpiens ir zināt, uz kā jūs stāvat.

Pirmdienas rīta jautājums: Ja regulators šodien lūgtu jums demonstrēt pilnu izcelsmes ķēdi katrai datu kopai, kas baro jūsu MI sistēmas — no sākotnējās vākšanas līdz pašreizējai lietošanai, ieskaitot katru mērķa maiņu ceļā — vai jūs spētu šo dokumentāciju sagatavot līdz piektdienai?

Avoti

Digital Health Net, "AI project to predict health outcomes paused over GP data concern," June 2025. https://www.digitalhealth.net/2025/06/ai-project-to-predict-health-outcomes-paused-over-gp-data-concern/
The Lancet eClinicalMedicine, "Procurement and early deployment of artificial intelligence tools for chest diagnostics in NHS services in England: a rapid, mixed method evaluation," September 2025. https://www.thelancet.com/journals/eclinm/article/PIIS2589-5370(25)00414-6/fulltext
The Register, "Authorities probe Oracle Cerner project in Sweden," November 2024. https://www.theregister.com/2024/11/27/oracle_cerner_project/
Digital Health Net, "We need to act fast to close the NHS AI safety gap," August 2025. https://www.digitalhealth.net/2025/08/we-need-to-act-fast-to-close-the-nhs-ai-safety-gap/
Amnesty International, "UK: Government's unchecked use of tech and AI systems leading to exclusion of people with disabilities and other marginalized groups," July 2025. https://www.amnesty.org/en/latest/news/2025/07/uk-governments-unchecked-use-of-tech-and-ai-systems-leading-to-exclusion-of-people-with-disabilities-and-other-marginalized-groups/
Computer Weekly, "Swedish welfare authorities suspend 'discriminatory' AI model," 2025. https://www.computerweekly.com/news/366634703/Swedish-welfare-authorities-suspend-discriminatory-AI-model
Journal of Medical Internet Research, "Digital Health Technology Compliance With Clinical Safety Standards In the National Health Service in England: National Cross-Sectional Study," 2025. https://www.jmir.org/2025/1/e80076
BMA, "Tech adoption poses risk to NHS," 2025. https://www.bma.org.uk/news-and-opinion/tech-adoption-poses-risk-to-nhs
Pulse Today, "NHS England pauses 'ground-breaking' AI project following GP data concerns," June 2025. https://www.pulsetoday.co.uk/news/technology/nhs-england-pauses-ground-breaking-ai-project-following-gp-data-concerns/