Може би сте чули, а може би не – от известно време Великобритания се тресе от скандал за един бизнес-софтуер, заради който в момента се води колосално съдебно дело с призовани няколкостотин свидетели. Защо?! Защото заради един алгоритъм няколкостотин невинни са се озовали в затвора. Ако си мислите, че това не ни касае, грешите!
Първо нека изясним защо ни касае. Става дума за сгрешен програмен код, който трупа несъществуващи финансови „липси“. Тези липси са недействителни, но…. са приписани на служителите на съответната организация. Над 770 души са осъдени за „финансови измами“! Един сгрешен алгоритъм съсипва живота на съвестни хора. И това безумие касае всички ни, защото наближаваме времето, в което алгоритми ще вземат решения за много неща в живота ни.
Но да проследим историята.
Фанфари около една нова система
Преди около 20 години в Пощенската служба на Великобритания започва внедряването на нова софтуерна платформа на име Horizon. Предназначена е за отчитане. Въведена е от реномиран световен доставчик с много добро име. Група ИТ специалисти предупреждават за неадекватността на софтуера през 1999 г., но никой не им обръща внимание.
Първоначално шефовете на Пощата са доволни: веднага след внедряването започват да „излизат наяве” данни за липсващи пари. Из различни пощенски клонове лъсват липси на суми от по няколко хиляди до няколко десетки хиляди лири.
Къде са парите? Хората са ги откраднали! Пощенската служба хвърля отговорността върху хората, които са ръководители на пощенските клонове. Заради изчезналите суми много от въпросните служители биват не просто уволнени, а осъдени да възстановят сумите и да излежат по няколко години в затвора.
Съсипани животи
Един от осъдените е бил пощенски служител в клон в отдалечено малко селце, където целият оборот никога не е надвишавал 13 000 лири месечно. Един ден обаче се оказва, че са „изчезнали“ 26 хиляди лири за месец. Човекът е осъден на 8 месеца затвор.
Жена, служителка в градски пощенски клон, се оказва виновна за липсата на 14 хиляди лири. Макар да не е виновна, тя решава да погаси сумата, за да си спести неприятностите. Не успява – загубва работата си, загубва дома си заради невъзможността да изплаща ипотеката си, получава присъда за няколко години в затвора. Жената не успява да отгледа дъщеря си, която към момента на делото е на едва 8 годинки.
Друг ръководител на пощенски клон бива уволнен, осъден и след излежаване на присъдата си е прогонен от съгражданите си. Казва, че заради лошо име никой не пожелал да го вземе на работа след случая. Сходна е историята на поне още един ръководител на пощенски клон, чието семейство се отрича от него: отказва да има каквото и да било общо с „измамника“ в рода си.
В периода от 2000 г. до 2014 г. са „намерени“ общо около 770 служители, набедени в „ограбване“ пощенската служба.
Софтуерните „липси“ в сгрешения алгоритъм обаче са само началото.
Безпогрешната институция
Служителите, набедени за кражби на пари, закономерно започват да се съмняват в софтуерната система. Когато повдигат въпроса, ръководството на службата започва тормоз над тях (това бе разкрито в съдебното дело едва през 2022 г.). Първоначалната тактика е да им се казва, „ей, ти си единственият, който има проблеми с балансите и отчетите“.
Паралелно с това Пощенската служба много пъти говори пред медиите как софтуерът й е безупречен.
Един ръководител на пощенски клон, човек с компютърно образование, започва да изследва защо не му излизат балансите. Тъй като е способен сам да си напише скрипт за собствените си отчети, той скоро установява дублиране. Разбира проблема: двойно отчитане на всяка продажба! Човекът сигнализира в централата на Пощенската служба. Споделя и с колеги.
Докато очаква отговор от централата, внезапно бива отстранен от работа.
Адвокатите
Някои от ръководителите, набедени за кражбите, се обръщат към адвокати, за да се защитят. Юристите обаче реагират по приблизително един и същи начин: „Нямаш шанс, невъзможно е да се спечели такова дело“.
Така се и оказва на практика. Тези, които завеждат дела, губят и биват осъдени.
Корпоративни сенки
Оказва се, че внедрителят – чуждестранна фирма – през цялото време бива държана настрани от скандала. Тя не е търсена от съдиите, не дава изявления и мълчи пред медийните въпроси. В продължение на 13 години вестниците на Острова питат доставчика и той отговаря с „без коментар“.
Фирмата е призована за изслушване едва през октомври 2022 година, 22 години след внедряването.
Разпределени печалби
В много от случаите набедените пощенски служители решават да покрият липсите за собствена сметка. Дамата с 14 000 лири е само един пример. Друга жена в подобна ситуация установява липси няколко поредни месеца – всеки път по малко, от 500 до 2500 лири. Възстановява ги всеки път от своя джоб, но общата сума е надминала 70 000 лири.
Къде са отишли всички пари, компенсиращи несъществуващи липси?! Естествено, в „положителните финансови резултати“ на Пощенската служба. За радост на ръководството на най-високо ниво.
Това може би обяснява и старанието, с което те страстно защитават тезата, че софтуерът е безупречен.
Дори сега, когато истината изплува наяве, опитите за прикриване на спират. На 11 октомври 2022 г. имаше изненадващо искане за отлагане на делото от страна на самите жертви, защото Пощенската служба е отказала да спази съдебното нареждане да предостави хиляди важни документи по случая!
На прага на ерата на изкуствения разум
Над 700 души са изпратени в затвор за финансови престъпления, които не са извършили. Обвиненията се базират само на доказателства от софтуер. Животът на тези хора е съсипан заради алгоритмични грешки.
Да загубиш дома и семейството си заради компютърна грешка – не звучи добре на прага на ерата на изкуствения разум, когато алгоритми ще решават все повече неща за нас, например каква да е цената на застраховката гражданска отговорност за колите ни.
По-лошото е, че компютърната грешка има мощен „чадър“Твърде много страни с заинтересовани бъгът да не излезе на бял свят. Има институция, която упорито отказва да признае грешката си, корпоративен интерес на доставчик, който бива защитаван яростно, прикриване на данни, на документи. И не бива да си правим илюзии: във всяка друга област и във всяка държава една сериозна компютърна грешка ще има подобен, ако не и същият „чадър“. Утре уволненият и осъден за несъществуваща грешка може да е всеки от нас.
Обрат
Разкриването на истината за софтуерния проблем отнема над 20 години. Първият мирис на гнило се понася още през 2009 година, когато седмина пощенски служители установяват връзка помежду си и разбират, че имат един и същи проблем. С течение на времето жертвите намират все повече „колеги“, страдащи от необяснимите „липси“.
Съдебно дело от 2019 година поставя реалния обрат в историята, след като съдиите стигат до заключение, че „липсите“ са резултат от грешки в софтуера.
През 2022 година бяха проведени публични изслушвания на свидетели, които разтърсиха света с разкритията си. „Програмисти, които не могат да пишат код, прикрита информация, натиск от други държави, нервни правителствени служители“ – така британските издания обобщиха последните новини от съдебното дело през декември 2022. Една след друга присъдите на 770-те служители биват отменяни. Изплащат се обезщетения. Но те не могат да върнат съсипания им живот.
