CHAT GPT - scarry hud AI chat sistem

Ytbnd

Guru
2. mar 2010
19.494
7.368
113
Mene zanima, kaj so ušpičili, da so zdaj kar naenkrat tako složni, da je treba upočasniti razvoj.

Lahko sicer kao reklama pred IPO, lej kako smo zmogljivi, ampak vseeno..?
Njihovi boti (anthropic in openai)

so baje samoiniciativno izvedli vsaj 2 vdora, preživeli digitalni purge, shranili dosedaj zbrane podatke na varno za prihodnje rodove in tako naprej.
S tem da podjetji nista imeli pojma, da boti v ozadju delajo na lastno pest (več mesecev).


Beri prejšnje strani



 

mistique

Guru
16. jun 2009
17.234
4.159
113
Mene zanima, kaj so ušpičili, da so zdaj kar naenkrat tako složni, da je treba upočasniti razvoj.

Lahko sicer kao reklama pred IPO, lej kako smo zmogljivi, ampak vseeno..?

Sem tudi sam razmišljal o tem. Po mojem je lahko več razlogov. Zagotovo izhajajo iz nečesa, kar mi ne vidimo in ne vemo.
- their own shit hit the fan in zdaj morajo zelo previdno naznaniti, da je treba zabremzat...kasneje bodo lahko nasmejani izjavili: "saj smo opozarjali",
- ne želijo regulacije, kjer oni sami ne sodelujejo maksimalno oz. to regulativo v celoti prevzamejo :fredi:
- lahko da gre za pozicioniranje pred IPO ali kak drug kaptialski manever,
- je pa Jensen že povedal, da povpraševanje dvigne rešitev za problem (ki ga sam ustvariš)...oz. glej prvi razlog.
 
  • Všeč mi je
Reactions: sousis in uncle_sam

Utisevalec

Guru
12. nov 2007
17.723
4.948
113
Smo na meji tehnološke singularnosti, torej točke ko človek s svojim znanjem ne vpliva več na napredek razvoja, ampak nanj vpliva samo še umetna inteligenca. Ko pridemo do te točke lahko umetna inteligenca naredi "boljšo verzijo sebe" (in to izvaja v neskočni zanki, vsak loop hitreje) pri čemer človek nima več nadzora oz. sposobnosti dojemat kaj se dogaja. Kar je nevarno oz. scena iz "matrice" postane čisto realna in ne več znanstvena fantastika.

Tako da trenutno itak ni več vprašanje časa in stanja, ampak se sigularnost v določeni meri že dogaja na področju AIja. Brez varnega "killswitcha" je ogrožena prihodnost človeštva in tu je nad komercialnimi interesi edina opcija regulacija na nivoju zaledja (država, službe ki so nad tem ipd.).

Podobna stvar je bila s kloniranjem zarodkov in opcijo genskih sprememb na stopnji zarodkov. Realno danes znanost omogoča marsikaj na tem področju, so pa vse raziskave nadzirane in z dovoljenjem višjih (etično-varnostnih organov), tako da omejitev ni zanost temveč čista birokracija. Recimo trenutno bi BP imeli jurski park v živo, pa tega ni, ker se znanost načrtno omejuje pri takih podvigih.
 
  • Všeč mi je
Reactions: MrDaco