this post was submitted on 10 Mar 2025
20 points (100.0% liked)

Nyheder

827 readers
44 users here now

For alle nyheder, hvad end de måtte omhandle.

Regler

1. Brug artiklens titel

Titlen på indlæg skal være titlen på nyhedsartiklen der linkes til. Du må dog gerne oversætte titlen hvis den ikke er på dansk, så længe oversættelsen er retvisende. En alternativ titel (fx i tilfælde af clickbait) eller vigtig supplerende information kan angives i kantede parenteser. Fx: "Clickbait titel [Beskrivende titel]". Dette sikrer at titlen på artiklen ikke er misvisende.

2. Brug ikke tekstfeltet ("body")

Link udelukkende til artiklen og brug ikke tekstfeltet ("body" på engelsk). Hvis du vil tilføje noget, så skriv en kommentar. Dette sikrer at debatten foregår fra et neutralt synspunkt der tager udgangspunkt i artiklen, og ikke en bestemt vinkling skrevet i tekstfeltet. Undtagelse: Det er tilladt at dele et referat af en artikel bag betalingsvæg i tekstfeltet.

3. Kun nye artikler

Artikler skal være mindre end en uge gamle. Dette sikrer at artikler faktisk er nyheder.

4. Debat-indlæg og andet skal markeres

Det er tilladt i et begrænset omfang at indlægge artikler der ikke som sådan er nyhedsartikler (fx debat-indlæg), men sådanne artikler skal markeres med [Debat] el. lign. mærkat i titlen af indlægget inden titlen på artiklen. Dette sikrer at brugere er klar over den potentielle højere bias der kommer fra debat-indlæg og sikrer at debat-indlæg ikke bruges til at skubbe en agenda.


Husk også at følge Feddit.dks generelle regler.

founded 2 years ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
[–] EvilCartyen@feddit.dk 8 points 1 week ago (14 children)

Kan godt lide ecosia, men gad godt at de ikke plantede træer med den ene hånd og så implementerer en ai der er pissedårlig for klimaet med den anden hånd.

Det er sådan lidt ligesom at have camouflagetøj OG gul vest på samtidigt. Så man man lige vælge om man vil ses eller gemme sig, om man vil redde miljøet eller smadre det.

[–] vandsjov@feddit.dk 4 points 1 week ago* (last edited 1 week ago) (13 children)

Ifølge deres FAQ er det noget de er klar over og holder øje med. Jeg tænker, at Ecosia måske tænker, at det er grønnere at have folk som vil bruge en AI chat komme til Ecosia i stedet for andre steder.

Jeg bruger selv Ecosia, men ikke deres chat bot.

Is generative AI sustainable?

We have estimated the carbon footprint of our AI chatbot and according to our first estimates it does not significantly increase the overall carbon footprint of Ecosia. The estimate takes into account that Ecosia searches are already 200% carbon negative,as we produce twice as much energy as is consumed by our search engine. We are currently working with two universities to refine our carbon footprint assessment.

Unfortunately the more important issue is that the leading language AI model providers are still not transparent about the energy consumption of their models, so without this clarity we can only make rough estimations of our impact. We will continue to monitor our energy usage and urge leading AI companies to do the same and be transparent about their impact.

[–] EvilCartyen@feddit.dk 2 points 1 week ago (12 children)

Det er vel lidt ligesom at sige at det er grønnere at bruge olie end det er et bruge kul, det er teknisk set korrekt men det hjælper bare ikke sådan I virkeligheden at gå all in på olie.

Generativ AI er både dårligt for hjernen og dårligt for miljøet og de burde bare lade være.

[–] vandsjov@feddit.dk 3 points 1 week ago (1 children)

Enig, AI chat er dårligere for miljøet end en almindelig søgning. Hvor meget grønnere at Ecosia kan gøre det (via deres "200% carbon negative" strategi) ved jeg ikke. Måske sammenligningen nærmere er at bruge træflis i stedet for kul (igen, jeg ved det ikke).

Du kan sige det samme om elbiler. Folk burde bare lade være og bruge offentlig transport eller cyklen i stedet. Men hvis folk absolut vil bruge en bil (AI chat), bør vi så ikke lade dem bruge det grønnere alternativ (Ecosia AI chat).

Jeg kan sagtens følge dig. For mig er det et spørgsmål om at finde et sted imellem absolut alt skal være AI og absolut alt skal ikke være AI.

[–] EvilCartyen@feddit.dk 2 points 1 week ago (1 children)

Men en elbil er sådan objektivt set meget grønnere end en almindelig bil - mens Ecosias AI bare er ChatGPT i en trenchcoat. Hvis de reelt implementerede en LLM med lavere klimaaftryk end alternativet så fair play.

Men det de har gjort er at male en dieselbil grøn og sige at så er den mere klimavenlig end alternativet. Der er ikke noget ved deres model der mere klimavenligt end konkurrenterne; det er simpelthen bare ChatGPT.

[–] vandsjov@feddit.dk 3 points 1 week ago (1 children)

Hvis du kun kører din bil 10 km og så skrotter den, så er miljøbelastningen for en elbil meget værre end en almindelig bil. ChatGPT er ikke "bare ChatGPT". De forskellige modeller bruger (meget) mere eller (meget) mindre energi at drive. Ud fra de resultater jeg får fra Ecosia, så tror jeg ikke at de bruger den store forkromet model. Jeg tror også at de har lagt nok begrænsninger ind i de svar man ønsker. Typisk er det nogle kortere svar man får, hvilket også begrænser energiforbruget.

[–] farsinuce@feddit.dk 1 points 1 week ago* (last edited 1 week ago) (1 children)

Energiforbrug

  • Konventionel onlinesøgning: 🔥

  • Anvendelse af sprogmodel: 🔥🔥🔥🔥🔥

  • Streaming på Netflix (10 min./4K): 🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥

  • Træning af sprogmodel: 🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🌪🦈🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥 x 10^3

[–] SorteKanin@feddit.dk 1 points 1 week ago (1 children)

Har du en kilde? Især den der med streaming på Netflix synes jeg ser lidt høj ud :)

Træning sker vel også kun få gange, mens at anvendelse af sprogmodeller sker mange flere gange (altså sådan, milliarder af gange), det skal vel også regnes med.

[–] farsinuce@feddit.dk 2 points 1 week ago* (last edited 1 week ago) (1 children)

Har du en kilde?

Tak fordi du spørger. Har kun spredte kilder ~~Ledte efter en bedre med et samlet overblik at dele her. Nu er det ulvetime. ~~ Det må blive dem her: (1, 2, 3, 4).

Træning sker vel også kun få gange, mens at anvendelse af sprogmodeller sker mange flere gange (altså sådan, milliarder af gange), det skal vel også regnes med.

For de fleste modeller gælder det, at træning sker én gang, og så har du din model. Kilde... øøh... kaninhul: https://huggingface.co/models

[–] SorteKanin@feddit.dk 2 points 1 week ago (1 children)

træning sker én gang

Ah men det er jo ikke helt rigtigt - modellen bliver jo trænet mange gange mens man udvikler den, tænker jeg 🙂. Medmindre du da vil betegne hver træning som en separat model. Men altså ja pointen er den samme.

[–] farsinuce@feddit.dk 2 points 1 week ago* (last edited 1 week ago) (1 children)

? Det mener jeg da ikke. En LLM trænes først på en stor mængde data, så man får en Base Model. Den kan så herefter fintunes med flere dataset og RLHF (menneskelig feedback), så man får instruction modeller osv.

Så når man er færdig, kan man serve den til folk f.eks. via applikation eller API. Er den open source, kan det være den lægges på Hugging Face, så folk selv kan downloade modellen og køre den lokalt.

Skal den trænes videre, skal den servede model erstattes af en ny model(version).

Tager jeg fejl? Hvordan forstår du det?

Opdateret: Hov. Er jeg gået for langt off topic?

[–] SorteKanin@feddit.dk 2 points 1 week ago* (last edited 1 week ago) (1 children)

Jeg tror skam også der foregår en finpudsning i pre-training, altså den store træning inden finetuning.

Man vil tit også træne mange gange og se på hvordan de forskellige trænede modeller opfører sig. Man tager fx 10% eller deromkring af træningssættet fra og bruger som et testsæt. Man kunne så fx træne 10 forskellige modeller ved at bruge forskellige snit af 10% af træningsdata som testdata. Så udvælger man en af modellerne og det bliver så måske den "endelige" pretrained model, før man finetuner osv. Man skal dog også være forsigtig med denne udvælgelse da man risikerer mere overfitting.

Derudover er du jo også nødt til at træne igen hver gang du vil lave ændringer i modellens arkitektur, og du vil sikkert gerne prøve mange, mange forskellige konfigurationer af modellen for at se hvad der gør den bedre og hvilke konfigurationer der virker bedst sammen. Det er meget svært at forudse effekten af en ændring af modellen, så du er næsten nødt til at prøve at træne og se hvordan modellen klarer sig.

Jeg lærte om machine learning på datalogi-studiet så tror jeg har en ide om hvordan det foregår, men universitetet er selvfølgelig også langt fra virkeligheden (det har jeg oplevet i andre aspekter af hvad man har lært på studiet).

Opdateret: Hov. Er jeg gået for langt off topic?

Skrev min kommentar inden din edit :P

Hele pointen med et kommentar-træ er jo at man kan gå off-topic uden at det påvirker resten af debatten :)

[–] farsinuce@feddit.dk 1 points 1 week ago (1 children)

Jeg lærte om machine learning på datalogi-studiet [...]

Og Machine Learning var ikke udbredt nok til at være en del af Medialogistudiet dengang for mit vedkommende 😑 Så jeg har måttet forsøge at lære det hele på bagkant.

Tak for din kommentar. Teoretisk set giver det jo god mening, som du skriver, iterativt at stikprøve sig vej frem på dén måde.

Men når så man er færdig med al arbejdet, som udgør træningen, så er vi vel enige om, at man ender med en færdig model f.eks. "GPT-4o mini 2501 high much wow", som folk så kan bruge, som den er?

Den kan så angiveligt fintunes yderligere, og laves en ny version ud fra.

Hmm... så har vi sådan set begge ret alt efter, hvem man spørger. Hvis jeg træner min egen LLM, og lægger den på huggingface, og aldrig gør mere ved den... Så er den jo "færdigtrænet". Men hvis jeg er OpenAI og løbende piller ved finjusteringen af GPT4, så bliver træningen vel aldrig rigtigt færdig?

[–] SorteKanin@feddit.dk 2 points 1 week ago

Men når så man er færdig med al arbejdet, som udgør træningen, så er vi vel enige om, at man ender med en færdig model f.eks. “GPT-4o mini 2501 high much wow”, som folk så kan bruge, som den er?

[...]

Hmm… så har vi sådan set begge ret alt efter, hvem man spørger. Hvis jeg træner min egen LLM, og lægger den på huggingface, og aldrig gør mere ved den… Så er den jo “færdigtrænet”. Men hvis jeg er OpenAI og løbende piller ved finjusteringen af GPT4, så bliver træningen vel aldrig rigtigt færdig?

Jojo klart. I sidste ende står du med en model, især hvis du bare selv har trænet den, selvfølgelig. Men selv med ChatGPT er det jo ikke bare en model. Du har vel fx oplevet at du får to svar på en forespørgsel hvor den beder dig vurderer hvilket svar er bedst? Det er jo to forskellige modeller der har givet det svar, selvom at du måske har valgt "GPT-4o mini whatever" som model. Det er helt sikkert noget de løbende udvikler tænker jeg.

load more comments (10 replies)
load more comments (10 replies)
load more comments (10 replies)