Home-theater-designers
Mens området for kunstig intelligens fortsætter med at udvikle sig i et svimlende tempo, er en ny udfordrer klar til at komme ind på banen. TruthGPT, en AI-chatbot foreslået af tech-milliardæren Elon Musk, genererer en masse buzz online.
Men hvad er TruthGPT? Hvorfor vil Elon Musk skabe det? Og hvordan vil det være anderledes end de AI-værktøjer, vi allerede har?
Hvad er TruthGPT?
TruthGPT er en foreslået AI-model, der har til formål at adressere de eksisterende modellers dårligdomme, der driver folk som ChatGPT og Bard, med særlig vægt på sandhed og sikkerhed. Ifølge Elon Musk vil TruthGPT være en 'maksimal sandhedssøgende' AI, der forstår universets natur og vil sandsynligvis ikke ødelægge menneskeheden, fordi den ser mennesker som en kritisk komponent i universet.
hvordan man rydder for nylig set på netflixMAKEUSE AF DAGENS VIDEO RUL FOR AT FORTSÆTTE MED INDHOLD
Maksimal sandhedssøgende AI? Forstår du universets natur?
Du vil blive tilgivet, hvis Musks beskrivelse ikke giver dig et klart billede af, hvad han præcist forsøger at bygge. Du vil dog få en bedre idé om, hvad han taler om, ved at se på, hvorfor han forsøger at bygge det i første omgang.
Hvorfor bygger Elon Musk TruthGPT?
I et interview med Fox News , udtrykte Elon Musk sine bekymringer over, hvordan store AI-virksomheder kan opretholde bias og desinformation gennem AI-chatbots - et værktøj, som folk i stigende grad er afhængige af for information. Elon Musk kommenterede også den trussel, AI udgør for menneskeheden, og understregede muligheden for en AI-apokalypse, et scenario, hvor AI-systemer kunne tage kontrol over vores daglige liv.
Ved at udvælge virksomheder som OpenAI og Google, som efter hans mening ikke gør nok inden for områderne AI-sikkerhed og beskyttelse mod desinformation, foreslog Elon Musk en tredje styrke - TruthGPT. SpaceX og Teslas CEO ønsker at skabe TruthGPT som en modvægt til Googles Bard og OpenAIs ChatGPT. Ideen er at skabe en AI-model, der så meget som muligt forsøger at være sandfærdig i den information, den giver.
Elon Musk, der for nylig forfattede et åbent brev, der opfordrede til en moratorium for udvikling af kraftfuld kunstig intelligens modeller (specifikt dem, der er stærkere end GPT-4), mener, at AI bevæger sig for hurtigt. Han mener, at vi er nødt til at bremse og revurdere vores tilgang til AI-sikkerhed, før AI 'tager kontrollen.' TruthGPT er en stor sprogmodel (LLM), der lover at løse disse to kerneproblemer med nutidens AI-systemer.
Hvordan ville TruthGPT se ud?
Det første tip til, hvordan TruthGPT ville se ud, er i navnet. I betragtning af 'GPT'-tillægget vil TruthGPT sandsynligvis have en arkitektur, der ligner ChatGPT. Husk, Elon Musk hjalp med at samle OpenAI og holdet, der byggede ChatGPTs GPT-model.
I betragtning af, at GPT's arkitektur har vist sig at være både en teknisk og kommerciel succes, vil det sandsynligvis være for tidskrævende og dyrt at følge en anden vej. Tid er én ting, som Elon Musk ikke har, hvis han skal bygge noget, der virkelig kan stå tå til tå med avanceret kunstig intelligens så hurtigt som muligt. Så bliv ikke for hypet – TruthGPT er måske ikke så radikalt anderledes end de AI-værktøjer, vi allerede har.
Nøjagtigheden, eller i Elon Musks sprogbrug, 'sandfærdighed', af en AI-model afhænger i høj grad af dens træningsdata og træningsalgoritmen. Vi er ikke helt sikre på, hvordan TruthGPTs træningsdata ville blive hentet, men for at få den bedste chance for at bygge et LLM, der er så 'sandfærdigt' som muligt, ville Elon Musks TruthGPT skulle prioritere data fra 'sandfærdige kilder.' Men det er netop problemet. Sandhed er et meget subjektivt begreb. Det, der er sandt for mig, er måske ikke sandt for dig.
Så er denne idé om en maksimal sandhedssøgende AI overhovedet praktisk?
blå skærm windows 10 hukommelsesstyring
Hvorfor det er en kæmpe udfordring at bygge TruthGPT
Når først du forstå, hvordan store sprogmodeller som GPT fungerer , bliver det klart, at det er upraktisk at være korrekt til enhver tid. Typisk trænet på et stort datasæt af internetdata, vil meget af det, forudsigeligt, være falsk information, og LLM'er har ingen inert måde at fortælle fakta fra fiktion.
Den bedste intervention er typisk fra menneskelige trænere, der forsøger at lære sprogmodellen, hvad der er god opførsel, og hvad der er dårligt. Men menneskelige trænere er forudindtaget. Bias overføres til AI-modellerne , besejre hele formålet med en 'maksimal sandhedssøgende AI.' Bemærk, vi taler ikke om direkte partiskhed eller fordomme mod et folk eller andet. Det er den mere subtile skævhed om, hvordan du fortolker sprog, situationer, udfordringer og så videre, der trækker ind i processen. Mennesker er jo mennesker.
Nøjagtigheden kan naturligvis også tackles fra algoritmesiden. Men uanset algoritmen repræsenterer sproglig tvetydighed stadig et stort problem for nøjagtigheden af AI-modeller. Selv mennesker kæmper ofte for præcist at fortolke en sætnings eller en sætnings betydning, hvilket fører til misinformation. For AI-modeller kan tvetydighed føre til fejlfortolkninger, der resulterer i unøjagtigheder.
For Musk ser TruthGPT ud til at være en chance for ham til at udskære en AI-model, som han finder passende til at levere sandheden. Hvordan det ville opstå uden at introducere hans egne forudindtagethed er et andet spørgsmål helt og effektivt fører os tilbage til starten af samtalen. Hvordan er Musks meninger om, hvad der er forudindtaget eller ikke anderledes end dem, der trænede og ledede ChatGPT?
hvad er superfetch, og har jeg brug for det
Er TruthGPT en spændende mulighed?
Elon Musks planer for TruthGPT virker noble og prisværdige. Det er dog en svær opgave at bygge en AI-model med en ubetydelig forekomst af unøjagtigheder.
Selvom vi ville forvente, at en tech-milliardær, der har afmystificeret raketvidenskab, vil være i stand til at udføre noget af denne art, er nogle ting lettere sagt end gjort.