10x10: Styczeń, algorytmiczne doświadczenia, wyższy i niższy poziom, Inter Liga

Kto kogo automatyzuje? Czy technologia przejmuje mniej kreatywną część naszej pracy, wynosząc nas na wyższy poziom? A może jest odwrotnie – algorytmy automatyzują nasze wybory, przenosząc nas na niższy poziom? W pracy zajmuję się automatyzacją procesów biznesowych i decyzji. Ostatnio, w ramach programu „Cyfrowy Lider” na ALK, dzieliłem się swoimi refleksjami na temat technologii i edukacji z perspektywy zarówno pracownika, jak i rodzica.

Wyższy poziom

Z jednej strony technologia automatyzuje schematyczne zadania, co pozwala nam wznieść się na wyższy poziom – zamiast zastanawiać się „jak”, zaczynamy rozważać „czy warto”. W matematyce, jak zauważa prof. Dawid Kielek, może to oznaczać, że maszyny będą dowodzić twierdzeń, pozwalając matematykom skupić się na wyborze tych najbardziej wartościowych (sprawdź poniżej).

Niższy poziom

Z drugiej strony algorytmy stały się częścią naszego osobistego doświadczenia. Projektuje się je tak, by wpływać na nasze zachowania i wybory poprzez wzmacnianie pętli nagrody w mózgu, „szturchanie” nas do określonych działań oraz zmniejszenie stresu decyzyjnego. O projektowaniu takich algorytmicznych doświadczeń pisze Mike Walsh w książce „Algorytmiczny Lider” (sprawdź poniżej).

Autonomia

Jeśli coraz inteligentniejsze algorytmy wykonują za nas „niższą” część pracy i jednocześnie wpływają na nasze decyzje, ważna staje się umiejętność działania na „wyższym” poziomie oraz zachowanie własnej autonomii. Jeśli nie wiemy, co robimy i po co (brak sensu) lub boimy się podjąć decyzję, wzrasta ryzyko, że automatyzacja ściągnie nas na niższy poziom. Zadania bez sensu odrobi za nas ChatGPT. Na co zwrócić uwagę, co kupić, gdzie aplikować o pracę czy nawet z kim się związać – o tym wszystkim może zdecydować algorytm rekomendacji. Brak poczucia sprawczości zastąpi wówczas pętla nagrody.

O co chodzi

Dzieci mają coraz mniej autonomii poza ekranem. Co więcej, granice ich (oraz rodzicielskiej) sprawczości wyznaczają algorytmy aplikacji zainstalowanych na smartfonie czy smartTV. W odróżnieniu od postępu technologicznego, który otwiera nowe możliwości (internet pod ręką), algorytmy i aplikacje są takie, a nie inne, ponieważ tak zostały zaprojektowane. Ostatecznie odwzorowują one sposoby myślenia i wartości swoich twórców. Nie chodzi o to, że każde algorytmiczne doświadczenie jest złe – ważne, aby rozumieć świat przenikany przez algorytmy i pozostać w nim samodzielnym.

Inter Liga

Fascynuje mnie tworzenie sytuacji wspierających samodzielność. Dlatego zainteresował mnie program First Lego League. Dlaczego właśnie ten program? Bo jest gotowy i łatwo dostępny. Zawiera elementy konstrukcji i programowania, wprowadza świat wartości i nadaje działaniom sens.W tym roku tematem przewodnim jest eksploracja mórz i oceanów. Zespół ma kilka miesięcy na rozwiązanie kilkunastu wyzwań, aby następnie wziąć udział w turnieju.

Zebraliśmy pięcioosobowy zespół dziewięciolatków. Spotkaliśmy się sześć razy. Mieliśmy wiele pozytywnych doświadczeń, jednak ostatecznie wąskim gardłem okazały się zestaw robotyczny oraz instruktor (czyli ja). Oczywiście można zwiększyć liczbę zestawów i instruktorów, ale doświadczenie tego ograniczenia było dla mnie cenne. Intuicja podpowiada mi, że lepiej skupić się na tworzeniu środowiska sprzyjającego samodzielności – więcej autonomii, mniej instrukcji.

Fragment wywiadu z prof. Dawidem Kielakiem

Najbardziej pesymistyczny wariant dla matematyka: maszyna będzie wypluwać twierdzenie za twierdzeniem i one będą poprawne… ale zawsze pozostaje pytanie, które twierdzenie jest ciekawe. Bo jest tak, i to jest matematycznie precyzyjny opis rzeczywistości, że twierdzeń jest nieskończenie wiele, więc nawet gdybyśmy mieli jako ludzie istnieć w nieskończoność, to nie jesteśmy w stanie zapisać wszystkich możliwych twierdzeń. Jesteśmy oczywiście zainteresowani dowodzeniem twierdzeń, ale jesteśmy też zainteresowani tym, żeby znaleźć twierdzenia, które są ciekawe… Gdyby doszło do tego etapu, to byłoby super. Wszyscy matematycy skakaliby pod niebiosa i bili brawo, że taka duża część mozolnej pracy, nie tej fajnej, intelektualnej części gdzie my myślimy ‘Co byłoby gdyby’, ….

Algorytmiczny Lider – Mike Walsh

Podobnie jak gry wideo czy automaty do gier, doświadczenia algorytmiczne można projektować po to, by manipulować ludzkim zachowaniem poprzez nasilenie działania pętli nagrody w naszym mózgu, co prowadzi do uzależnienia. Nie oznacza to, że wszystkie algorytmiczne doświadczenia są złe; po prostu za każdym razem, gdy masz do czynienia z systemami, które uczą się stopniowo coraz lepiej wpływać na twoje zachowanie, ryzyko nadużycia jest wysokie.

Szturchnięcie to strategia przyjmowana w celu zmiany czyjegoś zachowania, czasami określanej jako „niewymuszona uległość". W swojej książce z 2008 roku, Impuls. Jak podejmować właściwe decyzje dotyczące zdrowia, dobrobytu i szczęścia, Thaler i Cass Sunstein pokazali, że projektując architekturę wyboru (sposób przedstawiania opcji) w inny sposób, można wpływać na ludzi w zakresie dokonywania konkretnych wyborów bez ograniczeń, zakazów czy zmian kosztów.

Jako ludzie musimy nieustannie podejmować decyzje, decydujemy nie tylko o tym, co nosimy, ale także co kupujemy, czym się żywimy, dokąd chodzimy, z kim rozmawiamy i na co powinniśmy zwracać uwagę. Szacuje się, że dorosły człowiek może podejmować codziennie około 35 000 decyzji. Ciągła konieczność dokonywania wyborów powoduje stres. Psycholog Barry Schwartz, autor książki Paradoks wyboru, mówił o tym, że zbyt duży wybór może powodować poczucie paraliżu i niezadowolenia.

Twoje dzieci prawdopodobnie nie znajdą się w tej sytuacji – coraz większa ilość wyborów się dla nich zautomatyzuje. Kiedy zaczęło się doświadczać świata, w którym decyzje poddaje nam inteligentny algorytm, nie ma już odwrotu.

Prawdziwą miarą sukcesu algorytmicznego doświadczenia jest to, że zupełnie przestajemy zauważać algorytm. Innymi słowy, można uznać, że algorytm odniósł sukces, gdy zniknie. Kiedy to się dzieje, wyszukiwanie w Google’u staje się twoim systemem pamięci transakcyjnej, twoje konto na Instagramie staje się zbiorową narracją twojego kręgu społecznego, a polecane przez Spotify piosenki stają się twoim gustem muzycznym.

Można na to patrzeć tak, że wzrastająca zależność od algorytmów w zakresie podejmowania decyzji wiąże się z niebezpieczeństwem utraty osobistej autonomii. Alternatywny pogląd jest taki, że jesteśmy świadkami pojawienia się nowych, symbiotycznych związków z techniką, które pozwalają nam wzmocnić i rozszerzyć nasze pięć zmysłów.