TwinLadder Nedēļas Apskats

Izdevums #16 | 2025. gada septembris

Redaktora piezīme

Man uz darbvirsmas ir mape "gandrīz garām". Tajā ir melnraksti, atzinumi un izpētes materiāli, kuros MI radīja ticamu, bet nepareizu saturu — un es to pamanīju, pirms tas nonāca tālāk. Izdomāta tiesu prakses atsauce pētnieciskā atzinumā. Reāla lieta ar nepareizi piedēvētu nolēmuma būtību. Normatīvā akta pants, kas citēts precīzi, bet no redakcijas, kura vairs nav spēkā.

Es šīs lietas pamanu, jo man ir divdesmit gadu prakse. Es sajūtu, kad kaut kas neskan pareizi, pat ja atsauce virspusēji izskatās korekta. Jautājums, kas neļauj man gulēt, ir šāds: vai nākamā juristu paaudze — tie, kas ar MI strādā no pirmās prakses dienas — attīstīs šo instinktu.

Damien Charlotin MI halucināciju datubāze ir izaugusi līdz gandrīz 500 lietām visā pasaulē, lielākā daļa no tām ASV. Pieauguma temps ir paātrinājies no divām lietām nedēļā līdz divām trim dienā. Tie vairs nav izņēmuma gadījumi. Tā ir sistēmiska aina. Un šī aina atklāj kaut ko vēl satraucošāku par juristu neuzmanību — tā atklāj profesiju, kas arvien mazāk spēj pārbaudīt to, ko pati neatkarīgi nezina.

Eiropas juristiem halucināciju problēmai ir papildu dimensija. Saskaņā ar ES MI aktu 4. pants prasa dokumentētu MI pratību ikvienam, kas ievieš MI sistēmas. Birojs, kura juristi nespēj atpazīt halucinētu rezultātu, riskē ne tikai ar sankcijām. Tas ir neatbilstošs Eiropas tiesību aktam, kas ir spēkā kopš 2025. gada februāra.

[AUGSTA PĀRLIECĪBA]

Gandrīz 500 lietu un skaitītājs tikšķ: ko atklāj halucināciju datubāze

Charlotin — neatkarīgs konsultants Pelekan Data Consulting un pētnieks HEC Smart Law Hub — ir izveidojis to, kas kļuvis par galveno MI halucināciju lietu izsekotāju tiesvedībā visā pasaulē. Dati stāsta skaidru stāstu, un tas nav tāds, kādu jūs gaidītu.

Halucināciju dati	Problēmas apmērs
Gandrīz 500 lietu visā pasaulē (Charlotin datubāze)	Pieaugums no 2/nedēļā līdz 2–3/dienā
Lielākā daļa ASV	90% iesaista individuālos praktizētājus vai mazus birojus
17% halucināciju līmenis (Lexis+ AI, labākais klasē)	34% halucināciju līmenis (Westlaw AI-Assisted Research)
58–88% halucināciju līmenis (vispārīgie LLM)	Neviens specializēts juridiskais MI rīks nav brīvs no halucinācijām
$3 000–$31 000+ sankciju diapazons	Tendence augšupejoša — tiesas zaudē pacietību

Kļūmju veidi ir daudz plašāki nekā "viltus atsauces." Charlotin identificē trīs atšķirīgas kategorijas:

Izdomātas lietas — MI izdomā neeksistējošas atsauces. Šīs ir visvieglāk atklājamas. Lieta vienkārši nepastāv. Elementāra Westlaw vai Lexis meklēšana atklāj viltojumu sekundēs. Tas ir Mata v. Avianca scenārijs — tieši šis nonāk medijos.

Viltoti citāti — reāla lieta ar safabricētu citātu. Grūtāk pamanīt, jo lieta pastāv un atsauce ir derīga. Jurists pārbauda lietas nosaukumu, redz, ka tā ir reāla, un neiet tālāk verificēt konkrēto citātu. Lai to atklātu, jāizlasa pats nolēmums, nevis tikai jāapstiprina atsauce.

Nepareizi piedēvēts pamatojums — atsauce ir pareiza, lieta ir reāla, bet juridiskais princips, kas tai piedēvēts, nolēmumā nav atbalstīts. Šī ir visbīstamākā kategorija, jo tās atklāšanai vajadzīga saturiska juridiskā analīze. Tieši tā prasme, ko jurists cerēja, ka MI aizstās, ir tā pati prasme, kas vajadzīga kļūdas atrašanai.

Kurus soda? Datubāze atklāj nepārprotamu tendenci. 90% sodīto juristu ir individuālie praktizētāji vai nelieli biroji. 56% pārstāv prasītājus; 31% — atbildētājus. Sankcijas svārstās no $3 000 līdz $31 000+. Koncentrācija mazos birojos nav pārsteigums — lielāki biroji ir izstrādājuši pārvaldības politikas, obligātas verifikācijas procedūras un apmācību programmas. Individuālajiem praktizētājiem bieži šo struktūru nav.

Šai koncentrācijai vajadzētu satraukt Eiropas regulatorus. ES MI akts vienlīdz attiecas uz individuālu praktizētāju un Magic Circle birojiem. Bet individuālajam praktizētājam Viļņā, kas izmanto ChatGPT izpētei, ir krietni mazāk resursu verifikācijas procedūru izveidei nekā Freshfields. Regulatīvais pienākums ir vienāds. Spēja tam atbilst — nav.

Lietas turpina nākt. 2025. gada jūlijā tiesnese Nina Wang Denverā piesprieda MyPillow advokātiem Christopher Kachouroff un Jennifer DeMaster $3 000 katram par procesuālā dokumenta iesniegšanu, kurā bija vairāk nekā divi ducis kļūdu, tostarp halucinētas lietas. Advokāti apgalvoja, ka iesniegums bijis nejaušs melnraksts. "Galīgā" versija joprojām bija pārpilna ar kļūdām. Tiesa atzina viņu skaidrojumus par neticamiem. Komentētāji norādīja, ka sankcija bija maiga — $31 000 sankcija citā lietā labāk atspoguļo pašreizējo tendenci. Tiesas zaudē pacietību. Sankcijas pieaug.

Kanādā Ko v. Li (2025 ONSC 2766) noteica paraugu tiesu reakcijai. Toronto juriste iesniedza procesuālu dokumentu laulības šķiršanas lietā ar tiesu prakses atsaucēm, kuras nevarēja atrast nevienā juridiskajā datubāzē. Viņas atzīšanās bija tieša: "Šīs atsauces tika sagatavotas, izmantojot mākslīgā intelekta darbinātu juridiskās izpētes rīku. Es pieļāvu nopietnu kļūdu, neverificējot tiesu praksi." Tiesa ierosināja necieņas pret tiesu procesu, kas galu galā tika atrisināts ar nosacījumiem, tostarp profesionālās pilnveides kursiem un naudas atgriešanu klientam — viņa pati netika atzīta par vainīgu necieņā. Ontario tagad pieprasa juristiem apliecināt katra citētā avota autentiskumu saskaņā ar noteikumu 4.06.1(2.1).

Austrālijā juristam aizliedza praksi bez uzraudzības uz diviem gadiem par ar MI saistītām profesionālām nepilnībām. Aina ir globāla: brīdinājumi, pēc tam sankcijas, pēc tam profesionālas sekas, pēc tam — neizbēgami — civiltiesiskā atbildība.

Paralēla norāde pelna uzmanību. Lietā Walters v. OpenAI Džordžijas tiesa nolēma, ka OpenAI nav atbildīgs gadījumos, kad ChatGPT ģenerē apmelojošu saturu par reālu personu, atzīstot, ka platformas brīdinājumi par iespējamām neprecizitātēm nozīmē — saprātīgs lasītājs rezultātu neuztvertu kā faktu apgalvojumu. Nolēmums pēc būtības saka: MI uzņēmumi jūs brīdināja. Ja jūs paļāvāties uz nepārbaudītu MI rezultātu — tā ir jūsu problēma.

Šis ietvars tieši attiecas uz juridisko praksi. MI piegādātāji iekļauj brīdinājumus. Ētikas noteikumi prasa verifikāciju. Tiesas soda juristus, nevis rīkus. Visa atbildības struktūra balstās pieņēmumā, ka juristi izmantos neatkarīgu spriedumu — un tieši te ir fundamentālā problēma.

Pat specializēti juridiskie MI rīki halucinē ar ievērojamu biežumu. Stanford pētījums (Magesh et al., 2025) testēja specializētas juridiskās izpētes platformas. Vispārīgie LLM halucinēja ar 58–88% rādītāju. Bet pat Lexis+ AI, labākais rīks testā, uzrādīja aptuveni 17% kļūdu līmeni. Katrs sestais vaicājums. Profesijai, kas prasa nevainojamas atsauces, šis rādītājs ir ārkārtējs. Neviens jurists nepieņemtu 17% kļūdu rādītāju no cilvēka pētnieka palīga.

Risinājums nav meklēt "halucināciju brīvu" rīku. Tāds nepastāv. Risinājums ir iebūvēt verifikāciju katrā darba procesā — nevis kā pēcdomu, bet kā strukturālu elementu tajā, kā MI atbalstīts darbs tiek veidots.

Kompetences jautājums

Lūk, paradokss halucināciju problēmas kodolā: prasme, kas nepieciešama MI rezultātu pārbaudei, ir tā pati prasme, ko MI lietošana pakāpeniski mazina.

Ņemsim piemēru — ceturtā gada asociētā, kas MI izmanto juridiskajai izpētei kopš savas pirmās prakses dienas. Viņa nekad nav pavadījusi pilnu dienu juridiskajā bibliotēkā. Viņa nekad nav no nulles uzbūvējusi izpētes ceļu — sākot ar sekundāru avotu, identificējot galvenās lietas, izlasot tās pilnībā, izsekojot atsauces uz priekšu un konstruējot argumentu no primārajiem materiāliem. Viņas izpētes process sākas ar prompt un beidzas ar verifikācijas pārbaudi.

Tagad dodiet viņai MI atzinumu ar korektu atsauci uz reālu lietu, bet ar juridisku apgalvojumu, ko šī lieta patiesībā neatbalsta. Trešā halucināciju kategorija — nepareizi piedēvēts pamatojums. Lai to pamanītu, viņai būtu jāizlasa citētais nolēmums, jāsaprot tā būtība un jānovērtē, vai piedēvētais apgalvojums patiesi ir pamatots. Tā nav verifikācijas prasme. Tā ir juridiskās analīzes prasme. Tā attīstās gadu gaitā, veicot to izpēti, ko tagad veic MI.

Biroji, kas izvairās no sankcijām, nav tikai tie ar labākajiem kontrolsarakstiem. Tie ir biroji, kur juristiem ir pietiekami dziļas saturiskas zināšanas, lai pamanītu, kad MI rezultāts ir nepareizs — kas nozīmē, ka viņi šīs zināšanas ieguva laikā, kad MI vēl nebija padarījis to fakultatīvu.

Runāju ar vidēja lieluma ASV strīdu risināšanas praksi, kurai nav bijusi neviena ar MI saistīta sankcija. Viņu protokols ir vienkāršs: katra atsauce tiek iegūta no oriģinālā avota pirms lietošanas, citāti tiek verificēti burtiski, un otrs jurists paraksta MI atbalstītus procesuālos dokumentus. Bet atbildīgais partneris man teica, ka protokols nav tas, kas faktiski novērš kļūdas. "Protokols uztver vienkāršās lietas. Sarežģītās uztver tas, ka mūsu juristi pietiekami labi pārzina tiesības, lai sajustu — kaut kas neskan pareizi. To nevar panākt ar protokolu vien."

ES MI akta 4. pants to netieši atzīst. "Pietiekama MI pratība" nav tikai zināt, kā lietot rīku. Tā ir pietiekama jomas pārzināšana, lai novērtētu rīka rezultātu. Halucināciju datubāze pēc būtības ir nepietiekamas MI pratības katalogs — juristu, kas zināja, kā lietot rīku, bet ne kā pārbaudīt tā sniegto.

Ko darīt

Atveriet Charlotin datubāzi un iepazīstieties. Halucināciju lietu izsekotājs ir bezmaksas. Veltiet trīsdesmit minūtes, pārskatot nesenās lietas savā jurisdikcijā un prakses jomā. Izprast, kā citi ir tikuši sodīti, ir visefektīvākā prevencija.
Ieviesiet trīslīmeņu verifikācijas protokolu. Jebkuram MI atbalstītam procesuālam dokumentam: (a) apstipriniet, ka atsauce pastāv oficiālajā izdevumā, (b) verificējiet, ka tiešie citāti avotā parādās burtiski, (c) izlasiet citētā nolēmuma faktisko būtību un apstipriniet, ka tā atbalsta piedēvēto apgalvojumu. Trešais līmenis ir tas, kur notiek lielākā daļa kļūmju un no kā izriet lielākā daļa sankciju.
Nekad neļaujiet MI pārbaudīt pašam savu rezultātu. Ja pajautāsiet LLM, vai tā atsauces ir pareizas, tas pārliecinoši apstiprinās — pat ja tās ir izdomātas. Tiesa lietā Ko v. Li bija nepārprotama: "Jurists nevar deleģēt profesionālo atbildību čatbotam." Neatkarīga avotu pārbaude nav apspriežama.
Ieguldiet sprieduma attīstībā, ne tikai procesā. Verifikācijas kontrolsaraksti atklāj zināmus kļūdu veidus. Profesionālais spriedums atklāj visu pārējo. Nodrošiniet, lai jaunie juristi attīsta saturiskas juridiskas zināšanas — caur rūpīgu lasīšanu, izpēti no nulles un mentorēšanu — nevis tikai iemācās darbināt MI rīkus.
Dokumentējiet verifikācijas procedūras 4. panta atbilstībai. Eiropas birojiem jāspēj pierādīt, ka MI ieviesējiem ir "pietiekama MI pratība". Dokumentēts verifikācijas protokols — kas apliecina, ka juristi apmācīti atpazīt visas trīs halucināciju kategorijas — kalpo diviem mērķiem: kvalitātes nodrošināšanai un regulatīvajai atbilstībai.

Ātrā lasāmviela

Charlotin MI halucināciju lietu datubāze — galvenais izsekotājs, bezmaksas un regulāri atjaunināts, tagad aptver simtiem lietu visā pasaulē.
NPR: MyPillow advokāti sodīti par MI halucinācijām — 2025. gada jūlija sankcijas ar noderīgām detaļām par to, kā tiesas vērtē ar MI saistītu profesionālu pārkāpumu.
Stanford HAI: MI tiesas priekšā — etalonpētījums, kas uzrāda 17%+ halucināciju līmeni pat specializētos juridiskajos MI rīkos; obligāts lasāmmateriāls ikvienam, kas paļaujas uz šīm platformām.
McCarthy Tetrault: Ko v. Li analīze — pamatīga Kanādas lietas analīze, kas noveda pie Ontario jaunās apliecinājuma prasības.
Eric Goldman: Walters v. OpenAI — nolēmums, kas faktiski pasargā MI uzņēmumus no atbildības par halucinācijām, atstājot visu atbildību cilvēku lietotājiem.

Viens jautājums

Ja verifikācijai nepieciešams tieši tas juridiskais spriedums, ko MI lietošana ir paredzēta papildināt, un ja šis spriedums attīstās caur to pašu praksi, ko MI tagad veic, — kas būs kompetents pārbaudīt MI rezultātus pēc desmit gadiem?

TwinLadder Nedēļas Apskats | Izdevums #16 | 2025. gada septembris

Palīdzam profesionāļiem veidot MI kompetenci caur godīgu izglītību.