Banalność zła i problem wielu rąk

Definicja robocza

Banalność zła (banality of evil) oraz problem wielu rąk (problem of many hands) to dwa komplementarne pojęcia opisujące, w jaki sposób wielkie organizacje, biurokracje i systemy techniczne wytwarzają dotkliwe szkody bez udziału pojedynczego, demonicznego złoczyńcy. Banalność zła opisuje wymiar psychologiczno-poznawczy: zdolność normalnego człowieka do współuczestniczenia w niszczycielskim przedsięwzięciu przez bezrefleksyjne skupienie się na regułach procedury, języku urzędowym i własnym awansie, przy wyłączeniu wyobraźni moralnej. Problem wielu rąk opisuje natomiast wymiar strukturalny: sytuację, w której końcowa decyzja lub katastrofa jest złożeniem drobnych, cząstkowych wkładów tak wielu specjalistów, komitetów i modułów technicznych, że żaden pojedynczy uczestnik nie spełnia klasycznych warunków pełnej winy indywidualnej (jednoczesnej intencji, wiedzy i bezpośredniej sprawczości). Zestawione razem pokazują, jak nowoczesny podział pracy potrafi wyprodukować zbrodnię lub katastrofę bez sprawcy.

Geneza i rodowód

Formułę „banalności zła” wprowadziła w 1963 r. niemiecko-amerykańska filozofka polityki Hannah Arendt w książce Eichmann in Jerusalem (będącej rozbudowaną wersją pięcioczęściowego reportażu dla „The New Yorker” z procesu Adolfa Eichmanna w 1961 r.), wspierając się na pionierskiej monografii Raula Hilberga The Destruction of the European Jews (1961) o administracyjnej machinie Zagłady. Arendt zerwała z romantyczno-teologiczną tradycją przedstawiania radykalnego zła jako dzieła szatańskich sadystów, wskazując na płytkość intelektualną urzędnika myślącego wyłącznie kliszami i okólnikami służbowymi. Siedemnaście lat później, w zupełnie innym rejestrze analitycznej filozofii politycznej, amerykański politolog Dennis F. Thompson opublikował w „American Political Science Review” artykuł Moral Responsibility of Public Officials: The Problem of Many Hands (1980). Analizując decyzje administracji rządowej USA, Thompson wykazał, że zarówno model ściśle hierarchiczny (odpowiada wyłącznie osoba na szczycie), jak i model kolektywny (odpowiada cała instytucja jako osoba prawna) służą w praktyce za tarczę bezkarności. W 1996 r. filozofka techniki Helen Nissenbaum przeniosła pojęcie Thompsona na grunt systemów komputerowych, otwierając współczesną debatę o rozproszeniu odpowiedzialności w inżynierii oprogramowania i sztucznej inteligencji.

Rodowód środkowoeuropejski

Zarówno materiał historyczny leżący u podstaw diagnozy Arendt, jak i jej najgłębsze rozwinięcie socjologiczne są ściśle związane z Europą Środkową. Przedmiotem procesu Eichmanna była przede wszystkim logistyka wywózek Żydów z Wiednia, Pragi, ziem okupowanej Polski oraz przeprowadzona wiosną i latem 1944 r. przy współudziale węgierskiej administracji deportacja ponad czterystu tysięcy węgierskich Żydów do Auschwitz-Birkenau. Zanim jednak Arendt sformułowała swoją tezę po angielsku, powszedni, buchalteryjno-przemysłowy charakter obozowego podziału ról uchwycili w Polsce tuż po wojnie Zofia Nałkowska w dokumentalnych Medalionach (1946) oraz były więzień Oświęcimia Tadeusz Borowski w opowiadaniach z lat 1946–1948, pokazując obóz jako racjonalnie zarządzane przedsiębiorstwo, w którym zbrodnia rozpada się na rutynę ramp, magazynów i kartotek. W 1989 r. tę samą linię rozumowania podjął Zygmunt Bauman — ukształtowany naukowo na Uniwersytecie Warszawskim, z którego został usunięty w Marcu ’68 — w głośnej książce Modernity and the Holocaust (Nowoczesność i Zagłada). Bauman wprowadził do socjologii pojęcie „adiaforyzacji”: mechanizmu, dzięki któremu biurokratyczny podział zadań, pośrednictwo łańcucha wykonawców i zastąpienie odpowiedzialności moralnej odpowiedzialnością techniczną wyjmują ludzkie czyny spod oceny sumienia, czyniąc je w oczach wykonawcy moralnie obojętnymi.

Dlaczego teraz

W latach 2018–2026 połączenie banalności zła i problemu wielu rąk stało się podstawowym narzędziem analizy awarii instytucjonalnych i algorytmicznych. Po pierwsze, głośne skandale wokół zautomatyzowanych państw opiekuńczych — takie jak holenderska afera Toeslagenaffaire (która w 2021 r. doprowadziła do dymisji rządu Marka Ruttego po tym, jak algorytmiczny system oceny ryzyka i urzędnicy skarbówki bezpodstawnie oskarżyli dziesiątki tysięcy rodzin o wyłudzenia zasiłków) czy australijski program Robodebt (raport Komisji Królewskiej z 2023 r.) — pokazały w czystej postaci „cyfrową adiaforyzację”: urzędnicy odrzucali odwołania zrozpaczonych obywateli, wskazując na ekran komputera, a programiści wskazywali na wytyczne ministerstwa. Po drugie, w lotnictwie cywilnym katastrofy samolotów Boeing 737 MAX z lat 2018–2019 (zbadane w raporcie Komisji Izby Reprezentantów USA z 2020 r.) obnażyły, jak rozbicie certyfikacji bezpieczeństwa między podwykonawców, inżynierów systemu MCAS, menedżerów tnących koszty szkoleń i regulatora FAA sprawiło, że nikt pojedynczo nie czuł się autorem śmiertelnej pułapki. Po trzecie, wdrożenie łańcuchów wartości generatywnej AI (2023–2026) oraz negocjacje wokół unijnego AI Act ujawniły skrajny problem wielu rąk: gdy autonomiczny agent lub system rekomendacyjny wyrządza szkodę, odpowiedzialność rozprasza się między dostawcę danych treningowych, twórcę modelu bazowego, firmę dostrajającą wagi, integratora API i końcowego użytkownika instytucjonalnego.

Siła wyjaśniająca

Pojęcia te pozwalają przełamać naiwną intuicję prawną i potoczną, która w obliczu każdej wielkiej krzywdy szuka „złej intencji” (mens rea) proporcjonalnej do rozmiaru skutku. W złożonych systemach społeczno-technicznych wielkość katastrofy jest całkowicie odsprzężona od poziomu złośliwości pojedynczego uczestnika. Drobny kompromis inżyniera, który zamyka zgłoszenie błędu, bo goni go koniec sprintu; decyzja menedżera produktu, który optymalizuje wskaźnik retencji o pół procenta; nawyk urzędnika, który nie wychodzi poza listę kontrolną; oraz działanie modelu uczenia maszynowego, który minimalizuje funkcję straty — każdy z tych kroków z osobna mieści się w granicach zwykłej normy zawodowej. Dopiero ich sprzężenie w jednym potoku decyzyjnym tworzy bezwzględną maszynę mielącą ludzkie losy. Rama Arendt, Thompsona i Baumana wyjaśnia zarazem, dlaczego po wybuchu skandalu komisje śledcze tak często napotykają szczere poczucie niewinności u wszystkich przesłuchiwanych: każdy z nich naprawdę widział tylko swój wąski wycinek interfejsu i oceniał własną pracę wyłącznie przez pryzmat rzetelności technicznej.

Osie sporu

Niedoceniany kąt

W XXI wieku problem wielu rąk przestał być tylko niezamierzonym skutkiem ubocznym rosnącej złożoności — stał się świadomie projektowanym towarem rynkowym, który można nazwać „rozproszeniem odpowiedzialności jako usługą” (diffused responsibility as a service). Kiedy zarząd firmy lub ministerstwo chce przeprowadzić drastyczną redukcję etatów, zaostrzyć selekcję wniosków kredytowych albo obniżyć stawki dostawcom, najtrudniejszą barierą nie jest brak danych, lecz ludzki opór moralny i ryzyko reputacyjne. Wynajęcie zewnętrznej firmy konsultingowej, która wdraża „obiektywny model predykcyjny” dostarczony przez trzeciego podwykonawcę i uruchomiony w chmurze czwartego dostawcy, celowo mnoży liczbę rąk w łańcuchu przyczynowym. Im więcej warstw abstrakcji, interfejsów API i zewnętrznych audytów dzieli osobę podpisującą kontrakt od człowieka tracącego pracę lub zasiłek, tym łatwiej każdemu ogniwu zachować czyste sumienie. W ten sposób architektura mikroserwisów i podwykonawstwa staje się nowoczesną maszyną do prania odpowiedzialności moralnej.