🗞️ AGI za 10 lat

PONIEDZIAŁEK, 18.12.2023 | 1571 słów, 4m 58s lektury

CYFERKI

🇪🇸📈 48 milionów osób

Populacja Hiszpanii urosła w tym roku aż o 600 tys. osób, choć za wzrost odpowiada przede wszystkim migracja. Kraj ma wciąż jeden z gorszych wskaźników przyrostu naturalnego w UE.

🗳️🤖 31% błędnych odpowiedzi

Tak często Microsoft Bing mylił się, odpowiadając na pytania o niedawne wybory w Niemczech i Szwajcarii, podsycając lęk przed wpływem AI na przyszłoroczne wybory m.in. w Stanach.

🏘️🇺🇸 653 100 osób

Poziom bezdomności wskoczył na najwyższy poziom w historii USA i jest już o 12% wyższy niż przed rokiem.

🇪🇺🇵🇱 5 miliardów euro

Ursula von der Leyen potwierdziła, że jeszcze w grudniu Unia wyśle przelewik przeznaczony na transformację energetyczną Polski.

TECHNOLOGIA

Kto poskromi superinteligencję?

Drogą wstępu — jeżeli ktoś zna odpowiedź na to pytanie, to OpenAI chętnie odpali 10 mln dolarów. Firma oferuje grant dla badaczy, którzy pomogą uchronić ludzkość przed odegraniem scenariusza z Terminatora w prawdziwym życiu.

O co chodzi: prace nad zbudowaniem superinteligentnego modelu Artificial General Intelligence (AGI) nabierają rumieńców, a w opublikowanym niedawno badaniu OpenAI potwierdziło, że spodziewa się narodzin tej technologii w ciągu następnych 10 lat.

• Największym wyzwaniem związanym z AGI jest utrzymanie kontroli nad systemem, który według zapowiedzi ma być inteligentniejszy niż cała populacja Ziemi razem wzięta.

• W AI-owym żargonie zagadnienie to nazywa się terminem superalignment.

Właśnie nad tym problemem pracuje teraz Ilya Sutskever — główny naukowiec z OpenAI, którego przyszłość w firmie wciąż pozostaje nieznana, po nieudanym zamachu pałacowym na Sama Altmana.

Dla kontekstu: modele sztucznej inteligencji, które mamy obecnie do dyspozycji są kontrolowane z udziałem ludzkich trenerów, w procesie nazwanym RLHF (reinforcement learning from human feedback).

• W skrócie: ludzie analizują setki tysięcy odpowiedzi AI na zadane pytania i wskazują, gdzie model popełnia błąd, halucynuje, lub zwraca niestosowną odpowiedź.

• Poza dokładnością odpowiedzi pozwala to również zabezpieczać modele, tak by nie zwracały treści obraźliwych, lub stricte niebezpiecznych — np. instrukcji tworzenia domowych bomb, lub technik manipulowania ludźmi.

Wyzwanie: w omawianym badaniu OpenAI zastanawia się, w jaki sposób powinniśmy trenować superinteligencję, zakładając, że uczeń (czyli model AGI) będzie nieporównywalnie inteligentniejszy od swojego ludzkiego nauczyciela.

• Okazuje się, że nawet w tym zadaniu może nas w przyszłości zastąpić AI, które będzie po prostu szkolić inne AI.

Konkrety: zespół pracujący nad superalignmentem zaczął testować tę hipotezę, wykorzystując swój najsłabszy model (GPT-2) do nadzoru nad tym najpotężniejszym, czyli GPT-4.

• Eksperyment wykazał, że inteligentniejszy model został skutecznie ogłupiony przez ten słabszy i w efekcie GPT-4 osiągał rezultaty typowe dla wersji 3.5.

Badacze podejrzewają, że w przyszłości, w przypadku potężniejszych algorytmów zadziała ta sama zasada:

• Nadzór treningowy przeszkolonych i bezpiecznych modeli starszej generacji pozwoli spowolnić i odpowiednio wytrenować nowsze, potężniejsze algorytmy.

• Dzięki temu nawet modele zbliżające się do poziomu AGI powinny być wytrenowane tak, by spełniać kryteria bezpieczeństwa dla ludzkości.

Okej, ale: szkopuł w tym, że skala i prędkość tych procesów będzie już tak ogromna, że ludzie nie będą mieli kontroli nad tym, co dokładnie dzieje się w trybie superalignmentu — całość interakcji będzie odbywać się na płaszczyźnie AI <> AI.

4 WAŻNE RZECZY™

🇾🇪🚢 Przewoźnicy wycofują się z Morza Czerwonego

W piątek giganci globalnej logistyki — duński Maersk i niemiecki Hapag-Lloyd ogłosili, że ich statki będą omijać szlak handlowy przez Morze Czerwone i Kanał Sueski, ze względu na narastające niebezpieczeństwo ataków ze strony Jemenu.

• Stacjonujący tam rebelianci Huti przeprowadzili kilkanaście ataków na komercyjne jednostki przepływające w pobliżu, atakując w zeszły piątek statki Hapag-Lloyd oraz kontenerowiec Maersk dzień wcześniej.

• Rezygnacja z tego szlaku dokłada tysiące mil morskich dla wszystkich statków transportujących towary z Azji do Europy i może spowodować gigantyczne zatory w łańcuchach dostaw — na co dzień przez Kanał Sueski przepływa 30% wszystkich towarów transportowanych morzem.

Według doniesień mediów amerykańska marynarka rozważa stworzenie grupy zadaniowej, która będzie patrolować wybrzeża Jemenu i zapewniać ochronę dla międzynarodowej floty kontenerowców.

🖊️🇵🇱 Pierwsze podpisy prezydenta

Przyczajony tygrys, ukryty smok przy nowym rządzie, czyli Andrzej Duda, klepnął pierwsze ustawy przegłosowane przez koalicję, oszczędzając prezydenckie weto na inne okazje.

• Prezydent złożył finalny podpis pod ustawą o finansowaniu in vitro z budżetu państwa, pomimo apelu od arcybiskupa Stanisława Gądeckiego o zawetowanie ustawy.

• Prezydencki chokepoint przeszła też ustawa o mrożeniu cen energii w pierwszym półroczu 2024, która została wydzielona z okrytej złą sławą ustawy wiatrakowej.

Pierwsze dni zaaranżowanego małżeństwa pomiędzy Dudą a Tuskiem wydają się przebiegać dość spokojnie. Obaj liderzy mieli rozmawiać w sobotę o przebiegu rozmów w Brukseli i planach na niedzielne spotkania z przywódcami państw bałtyckich w Talinnie.

🎯🇮🇱 Śmiertelna pomyłka wojsk Izraela

W sobotę IDF przyznał, że jego żołnierze zastrzelili w Strefie Gazy 3 osoby, które okazały się izraelskimi zakładnikami pojmanymi przez Hamas podczas ataku z 7 października.

• Żołnierze rozpoczęli ostrzał mimo tego, że zakładnicy trzymali białą flagę i wykrzykiwali komunikaty z prośbą o pomoc po hebrajsku. Ich obecność na otwartym terenie nie została jeszcze wytłumaczona, choć podejrzewa się, że uciekli z tuneli, w których przetrzymywał ich Hamas.

• Szef Sztabu Generalnego Sił Obronnych Izraela oświadczył, że postępowanie jego żołnierzy było sprzeczne z prawem konfliktów zbrojnych i wynikało z wyczerpania odporności psychicznej żołnierzy wysłanych na pole bitwy.

🇰🇼🪦 Emir Kuwejtu nie żyje

W sobotę, w wieku 86 lat odszedł przywódca kraju, Nawaf Al-Ahmad Al-Jaber Al-Sabah, który rządził w Kuwejcie przez zaledwie 3 lata, obejmując tron w 2020 roku. Zastąpił go jego brat, 83-letni Mishal Al-Ahmad Al-Jaber Al-Sabah.

• Zmarły szejk był dość anonimowy na szerszej scenie politycznej, a jego krótka kadencja była naznaczona intensywną walką polityczną w parlamencie Kuwejtu.

• Polityka Al-Sabaha skupiała się na łączeniu skłóconych frakcji i wzmacnianiu politycznej stabilności, nawet kosztem ułaskawiania politycznych wrogów i krytyków rządu.

Choć Kuwejt uchodzi za najspokojniejszy i najbardziej demokratyczny kraj w całej Zatoce Perskiej, w ostatnich latach pozostał w tyle za rządzonymi przez młodsze generacje polityków sąsiadami, którzy o wiele szybciej reformują swoje gospodarki i zmniejszają uzależnienie od wydobycia ropy.

STÓŁ CZASU

Jeszcze w tym tygodniu

Zapraszamy na 15-ty i ostatni stół czasu w tym roku! Poniżej tematy, na które warto rzucić okiem w ostatnim (nieudawanym) tygodniu roboczym:

Poniedziałek: poznamy oficjalny wynik wyborów prezydenckich w Egipcie, które powinien wygrać rządzący od 2014 roku autokratyczny lider, Abdel Fattah al-Sisi.

Wtorek: rozpocznie się 3-dniowy maraton posiedzeń w Sejmie, z którym w czwartek przyjdzie nam się pożegnać aż do nowego roku.

• We wtorek może rozstrzygnąć się przyszłość Krzysztofa Bosaka jako wicemarszałka izby. Lider Konfederacji wciąż nie zgadza się na wyrzucenie Grzegorza Brauna z partii, po gaśniczym epizodzie z zeszłego tygodnia.

• Zupełnie przypadkiem: tego samego dnia minie 25 lat od wyrzucenia z urzędu Billa Clintona, w tym przypadku po epizodzie rozporkowym.

Środa: wybory prezydenckie odbędą się w Demokratycznej Republice Kongo, która wg. zachodnich mediów przesadnie demokratyczna nie jest, a wynik wyborów został już ustalony z dużym wyprzedzeniem.

Czwartek: dane o wzroście PKB za Q3 tego roku podadzą Amerykanie. Mimo negatywnych nastrojów w społeczeństwie największa gospodarka świata dowozi w tym roku zaskakująco dobre wyniki i powinna po raz kolejny zostawić daleko w tyle resztę rozwiniętych gospodarek Zachodu.

Piątek: można będzie zresetować depresjometry i odrobinę żwawiej wstawać rano z łóżka. Nastąpi zimowe przesilenie, po którym dzień wreszcie zacznie się wydłużać, a zarazem rozpocznie się kalendarzowa zima.

NEWSROOM

Temu vs. Shein: dogrywka

Najszybciej rosnące sklepy internetowe na świecie kontynuują swój zaciekły bój o to, kto ma niższe ceny i kto mocniej gnoi swoich dostawców.

• W zeszłym tygodniu Temu po raz drugi w tym roku pozwało Shein o gangsterskie praktyki w relacjach z producentami ciuszków sprzedawanych na platformie.

• Wśród zarzutów jest m.in. wymuszanie umów lojalnościowych, które uniemożliwiają współpracę z konkurencją i przetrzymywanie dostawców długimi godzinami w salkach konferencyjnych, po wcześniejszej konfiskacie ich telefonów.

Obaj giganci byli już w przeszłości oskarżani o wykorzystywanie pracy niewolniczej i zatrudniane influencerów do shitpostowania o sobie nawzajem w socialach.

• Mimo złej sławy ich biznes kręci się w tym roku nie najgorzej. Temu jest najpopularniejszą appką na iPhone’y w Ameryce, a Shein szykuje się do debiutu giełdowego, który już teraz zapowiada się na jedno z największych IPO w historii.

Artystyczny podatek na streaming

Od stycznia we Francji zacznie obowiązywać nowy podatek, obciążający wyłącznie platformy do streamingu muzyki, takie jak Spotify, Deezer, czy Apple Music.

• Firmy będą musiały zapłacić pomiędzy 1.5% a 1.75% całego przychodu z subskrypcji na rzecz finansowania projektów muzycznych w kraju.

• Streamerzy próbowali już wymigać się od obciążenia podatkowego, proponując dobrowolną zrzutkę, sięgającą nawet 14 mln dolarów, ale rząd Macrona stwierdził, że jednak woli skasować podatek.

Decyzja Francji wpisuje się w szerszą debatę nad wpływem streamingu na branżę muzyczną.

• W modelu spopularyzowanym przez Spotify nieproporcjonalnie dużą część przychodu z dystrybucji muzyki zgarnia garstka największych, globalnych gwiazd, podczas gdy mniejsi wykonawcy otrzymują ułamek kwot, które zarabiali w czasach płyt CD.

Zmarł Janusz Filipiak

W wieku 71 lat odszedł jeden z najbogatszych Polaków i niekwestionowany król rodzimych software house’ów — profesor Janusz Filipiak.

• Filipiak był założycielem Comarchu — drugiej (po Assecco) największej firmy IT w Polsce.

• Jego firma była jednym z fundamentów polskiego internetu lat 90 i odpowiadała za cyfryzację banków, urzędu skarbowego, Telekomunikacji Polskiej czy stworzenie (we współpracy z RMF FM) Interii.

Dzisiejszy Comarch, poza realizacją enterprise’owych projektów IT w blisko 70 krajach na świecie, oferuje też szereg własnych produktów, a w tym systemy ERP popularne wśród firm z segmentu SMB.

INNE RZECZY

• W Belgii smuteczki. Młodzież waliła tam tak dużo gazu rozweselającego, że śmieszne naboje zostaną zakazane w sprzedaży detalicznej.

• Trzaskowski striggerowany. Okazuje się, że to Lublin ma najbardziej ekologiczną komunikację miejską w całej Polsce i znajduje się w europejskiej czołówce.

• .dzień dobry już niepotrzebne. Powstała pierwsza internetowa telewizja z wiadomościami, serwowanymi całą dobę przez dziennikarzy generowanych za pomocą AI.

• Ciężkie czasy przed ketaminą. Sekcja zwłok gwiazdy Przyjaciół, Matthew Perry’ego wykazała, że aktor był pod wpływem właśnie tej substancji, kiedy utonął w swoim basenie.