Hva om flere av de urbane, venstreorienterte aktivistene er nevrologisk ødelagte, forvirret som en KI trent på KI-materiale?
Vi vet nå at
når KI trenes på KI-generert innhold, forringes resultatet. Jo mer kunstig
treningsmaterialet er, desto mer hallusineres det og blir vrangforestillinger.
Men mennesker er en slags storspråklig modell, og vi kjører det samme
eksperimentet på oss. Vi oppdrar gradvis barn med mer og mer kunstig innhold og
mindre reell erfaring. Det finnes voksne barn som aldri har dyrket og høstet et
eneste stykke mat, som bor på nettet, ser på anime og vet at strøm kommer fra
stikkontakter, og mat kommer fra butikken. Vi trodde de bare var løsrevet fra
virkeligheten, men hva er det? Det er noe mye dypere? Hva om KI viser oss en
universell sannhet om et nevrologisk nettverk?
Dette er
Copernicus-hypotesen:
Urban Bugmen ** og KI-modellkollaps: En samlet teori
Modellkollaps er en alvorlig begrensning for KI-systemer;
en feilmodus som oppstår når KI trenes på KI-genererte data…
Når man ser på modellkollaps, har symptomene en
slående likhet med visse ikke-digitale kulturelle svikt. Nevrale nettverk
kollapser, hallusinerer og blir vrangforestillinger når de bare trenes på data
produsert av andre nevrale nettverk av samme klasse. …og når du forteller din
tilbakestående teknologisjef at du «trener et nevralt nettverk til å gjøre
dataregistrering», forteller du ikke teknisk sett sannheten når du ansetter en
praktikant?
Det kan være at vi tilfeldigvis i KI-utvikling
har snublet over en underliggende naturlov, et grunnleggende prinsipp. Når det
brukes på trente nevrale nettverkssystemer, kan tap av informasjonskvalitet og
kollaps være universelt, ikke spesifikt for digitale systemer. Denne
resonnementsrekken har alvorlige sosiologiske implikasjoner: dekadanse kan være
mer enn bare en moralsk svikt; den kan være noe som gjelder universelt.
Modellkollaps er synlig i denne studien publisert i Nature i fjor
Copernicus
nøler ikke:
Når det gjelder å navigere i den virkelige verden, oppfører
urbane Bugmen ** seg ofte som om de er tilbakestående. Sosialt (de har aldri
blitt slått i ansiktet), geospatialt (de aner ikke hvordan de skal navigere
etter sol eller skygger), kulturelt (uten en popfiksjonell prøvestein
eksisterer ikke kultur), osv. De er fullstendig bundet til en verden av
kunstige idéer: menneskeskapte data, og ute av stand til å nøyaktig modellere
ut fra første prinsipper noe utenfor deres ekstremt begrensede sfære av kunstig
erfaring.
Bugmannens nevrologiske modell av virkeligheten er atskilt
fra virkeligheten. De hallusinerer sannheter som ikke gir mening, og de lurer
seg selv til å bevise falske idéer, og angriper voldsomt alle med en
virkelighetsmodell som er mer nøyaktig enn deres egen.
De forstår ikke vold, sult eller (ekte) sosial organisering
fordi de aldri har møtt disse tingene. Og når de er voksne, er deres virkelighetsmodeller
for fastlåste til å lett kunne endres.
De som ikke
har en levende erfaring med fysikk eller biologi, vokser opp og blir feminister
som ønsker at biologiske menn skal vinne boksemedaljer i kvinnedivisjonen.
Han påpeker
at det finnes programmer som vokser frem for å bygge databaser som ikke er generert
av kunstig intelligens, slik at de kan trene opp mer nyttige kunstig
intelligens-modeller. Kanskje vi må utvikle disse programmene for våre egne
barn? Kanskje de trenger tid på ekte gårder og skoger i stedet for bare å se
videoer om andres erfaringer?
En avhandling: Teorien om enhetlig modellkollaps
Den foreslåtte avhandlingen er at nevrale nettverkssystemer,
som inkluderer KI-modeller, menneskelige sinn, større menneskelige kulturer og
våre individuelle pelskledde små venner, alle trener på tilgjengelige data. Når
et barn stumper lilletåa si på en villfaren stein og begynner å skrike som om han
har tatt fyr, er det data det nettopp har mottatt, og som vil bli lagt til
virkelighetsmodellen hans. Det samme gjelder for å klatre i et tre, spille et
videospill, se på en YouTube-video, sitte i en stol, spise den ekle grønne
salaten osv. Barnets sinn (eller rettere sagt, underseksjoner av hjernen hans)
er nevrale nettverk som oppfører seg på samme måte som nevrale nettverk i KI.
Folk bruker nye data som treningsdata for å modellere
omverdenen, spesielt når vi er barn. På samme måte som KI-modeller blir
vrangforestillinger og hallusinasjoner når det er for mye KI-genererte data i
treningsdatasettet, får mennesker også vrangforestillinger når det er for mye
menneskegenererte data i treningsdatasettet deres.
Når en person ser på OL, ser de ekte mennesker som samhandler
med fysikk fra den virkelige verden. Når en person ser på en tegnefilm, ser de
kunstige mennesker som samhandler med urealistisk og unøyaktig fysikk. Når et
menneske klatrer i et tre, absorberer de ekte informasjon om tyngdekraft,
menneskelig skjørhet og fysisk styrke. Når et menneske spiller et
høyrealisme-videospill, absorberer de informasjon kunstig produsert av andre
mennesker for å simulere noen aspekter av den virkelige fysiske verden. Når et
menneske ser på en søt anime-jente som kjører stridsvogner rundt, absorberer
det mennesket utelukkende kunstig informasjon skapt av andre mennesker.
Lever vi i Museutopia?
Copernicus snakker
om eksperimenter fra 1960-tallet der 8 mus ble plassert i et rikt habitat med
alle ting en by med 6000 mus kunne trenge. I museutopia ble snart 8 mus til 16.
De doblet seg hver 55. dag og nådde 2200 mus etter 19 måneder. Men selv om de
kunne ha doblet seg en gang til før maten tok slutt, gjorde de det aldri. Ting
gikk veldig galt i kolonien. Noen mus kalt «de vakre» voktet en førsteklasses
plass og gjorde ingenting med den. De lavere rangerte hannene ga bare opp å
prøve å få en jente. Jentene mistet evnen, eller interessen, for å oppdra
ungene, de glemte dem til og med. Og tilsynelatende falt fruktbarheten til
ingenting. En måned etter at bestanden nådde toppen, overlevde svært få
museunger mer enn noen få dager.
«Musene ble trent på datasett der det var liten eller ingen
innblanding fra den virkelige verden. Som et resultat nådde treningen deres en
tilstand av katastrofal fiasko etter omtrent 13 generasjoner. På det
tidspunktet falt fruktbarheten til null i de yngste populasjonene, og hele
musesamfunnet kollapset i nihilistisk utryddelse.»
Folk
diskuterer fortsatt nøyaktig hvorfor alt falt fra hverandre, men Copernicus
tilbyr det som et eksempel på en modellkollaps hos et sosialt dyr som hadde
liten kontakt med den virkelige verden av sult, fysikk og overraskelser. Han
bemerker beklagelig med store bokstaver at Vi Trenger Replikering av
eksperimentet. Men Mouse Utopia må ha endt opp med å se ut som et freakshow,
fordi, sier han, etikknemnder ikke tillater et gjentakelse av eksperimentet.
Det er et
langt stykke – du kan se det her
** Urban Bugman = sjelløse
mennesket i senkapitalismen – en "insekt-lignende" person, som lever
som en dronningbi i et kollektivt bikube-system, drevet av forbruk, teknologi
og konformitet fremfor individuell vitalitet eller tradisjonell maskulinitet.
Kilde: Joannenova
Ingen kommentarer:
Legg inn en kommentar