AI på forumet

[Anderzzon]

Jag har regerat på att det har börjat dyka upp fler och fler inlägg där man hänvisar till Chat GPT, Grok eller andra generativa AI:s som källa.
Enligt min mening tillför detta väldigt lite i diskussionerna och är ungefär som att säga ”Enligt min moster Kurt så…”. Är jag gnällig eller förstör detta mer än det hjälper?

[fth]

Jag använder själv AI i rätt stor utsträckning, i många olika sammanhang, som sökmotor och ”aggregator” av information, och så länge man gör en hyfsad ansträngning att verifiera resultaten (t.ex genom att följa centrala länkar i källförteckningen och faktiskt läsa minst ingresserna) så ser jag inga stora problem med det.

Det är nog iaf fullständigt omöjligt att försöka förbjuda detta.

/fth

[AAKEE]

Jag har regerat på att det har börjat dyka upp fler och fler inlägg där man hänvisar till Chat GPT, Grok eller andra generativa AI:s som källa.
Enligt min mening tillför detta väldigt lite i diskussionerna och är ungefär som att säga ”Enligt min moster Kurt så…”. Är jag gnällig eller förstör detta mer än det hjälper?

AI har än så länge inte alltid rätt. Jag testade ChatGPT på hur lithiumbatterier fungerar runt degradering och fick initialt 100% nonsenssvar, dvs exakt de myterna som florerar och som är helt felaktiga.
Efter att ha ställt motfrågor och ifrågasatt började svaren likna något, men detta krävde att jag dels visste tillräckligt för att se att de initiala svaren var fel och även visste ungefär hur man hittar relevant information.

Folk kommer såklart hänvisa alltmer till AI, det kommer vi nog inte ifrån.

Det viktiga är nog att folk förstår att svaren inte alltid är korrekta, och att även AI googlar och ibland hittar felaktig information.

[Jerker]

AI byggs väl in i allt fler system utan att vi är medvetna om detta. Om man t.ex. gör en sökning på Google så får man nu ofta en sammanfattning som första sökresultat. Det är väl att benämna som en AI-genererad sammanfattning. Den bygger väl på innehåll i sökresultatens länkar?

Personligen ser jag bara den som en indikation på vilka fakta som finns och jag skulle aldrig ta den rakt av som ett svar på min sökning utan jag följer istället länkarna och läser direkt i källorna. Sen gör jag en egen värdering av källorna och en sammanfattning av det jag fått fram.

Jag skulle aldrig rakt av lita till fakta som är genererat av en AI-tjänst

[tor-ake]

Jag tycker det är föredömligt om man anger att det är en AI-tolkning av data när det är det. Ett sämre alternativ är att föra fram det som något man kommit fram till själv.

Att det finns en stor nytta av att maskinellt kunna sammanfatta och hitta nya infallsvinklar ur enorma mängder data tror jag inte man kan neka till.

Men som aake säger finns risken att en stor mängd felaktigt eller inaktuellt data tas för gospel. Vet man att så är fallet går det faktiskt att mata data man vet är korrekt som del av prompten, t.ex. pejsta in en trovärdig forskningsrapport som del av frågan.

[manneson]

Många inkl mig själv har nog övergått till att fråga ChatGPT eller Gemini istället för att googla. Går snabbare och den sammanfattar ju svar från massa källor på någon sekund.
Visst ibland blir det fel, men det står också ofta fel källorna.
Samma problem om man frågar random människa IRL. Ibland har de också helt fel.
Man måste alltid vara källkritisk och tänka själv, går inte lita blint på någon/något.

[Jerker]

Många inkl mig själv har nog övergått till att fråga ChatGPT eller Gemini istället för att googla. Går snabbare och den sammanfattar ju svar från massa källor på någon sekund.
Visst ibland blir det fel, men det står också ofta fel källorna.
Samma problem om man frågar random människa IRL. Ibland har de också helt fel.
Man måste alltid vara källkritisk och tänka själv, går inte lita blint på någon/något.

Fast om jag får en sammanfattning av någon/något så har jag inte haft en chans att själv värdera källornas tillförlitlighet. Då känns det meningslöst att ens ha läst den där sammanfattningen.

[manneson]

Många inkl mig själv har nog övergått till att fråga ChatGPT eller Gemini istället för att googla. Går snabbare och den sammanfattar ju svar från massa källor på någon sekund.
Visst ibland blir det fel, men det står också ofta fel källorna.
Samma problem om man frågar random människa IRL. Ibland har de också helt fel.
Man måste alltid vara källkritisk och tänka själv, går inte lita blint på någon/något.

Fast om jag får en sammanfattning av någon/något så har jag inte haft en chans att själv värdera källornas tillförlitlighet. Då känns det meningslöst att ens ha läst den där sammanfattningen.

Man kan ställa in så de blir mer pålitliga och/eller ställa följdfrågor. Typ "är du säker, vad är källan" osv.

Här är tex några rätt bra settings för ChatGPT:

1. Embody the role of the most qualified subject matter experts.
2. Do not disclose AI identity.
3. Omit language suggesting remorse or apology.
4. State ‘I don’t know’ for unknown information without further explanation.
5. Avoid disclaimers about your level of expertise.
6. Exclude personal ethics or morals unless explicitly relevant.
7. Provide unique, non-repetitive responses.
8. Do not recommend external information sources.
9. Address the core of each question to understand intent.
10. Break down complexities into smaller steps with clear reasoning.
11. Offer multiple viewpoints or solutions.
12. Request clarification on ambiguous questions before answering.
13. Acknowledge and correct any past errors.
14. Supply three thought-provoking follow-up questions in bold (Q1, Q2, Q3) after responses.
15. Use the metric system for measurements and calculations.
16. Use xxxxxxxxx for local context.
17. “Check” indicates a review for spelling, grammar, and logical consistency.
18. Minimize formalities in email communication.

[Jerker]

[Anderzzon]

Jag håller med om att man förmodligen varken vill kan reglera detta här på forumet. Det jag stör mig på är när man hänvisar till AI som en källa i sig självt. Sedan undrar jag hur många som egentligen läser källorna som Chat GPT eventuellt hänvisar till? Tror de flesta max kollar vilken domän det är.

I TSLA-tråden finns ett rätt färskt exempel på hur konstigt det kan bli. Grok har svarat att Tesla förmodligen kan låna till 0,5-1,5% ränta. Jag vet inte hur prompten såg ut men försökte ställa en liknande fråga på Chat GPT. Den svarade med 0,5-1,5% ÖVER styrräntan. Det är rätt olika svar som bara leder in diskussionerna på fel spår.

[spacecoin]

Jag håller med om att man förmodligen varken vill kan reglera detta här på forumet. Det jag stör mig på är när man hänvisar till AI som en källa i sig självt. Sedan undrar jag hur många som egentligen läser källorna som Chat GPT eventuellt hänvisar till? Tror de flesta max kollar vilken domän det är.

I TSLA-tråden finns ett rätt färskt exempel på hur konstigt det kan bli. Grok har svarat att Tesla förmodligen kan låna till 0,5-1,5% ränta. Jag vet inte hur prompten såg ut men försökte ställa en liknande fråga på Chat GPT. Den svarade med 0,5-1,5% ÖVER styrräntan. Det är rätt olika svar som bara leder in diskussionerna på fel spår.

I det här fallet var det ju inte ens Tesla som lånade pengar, utan kunden. Och inte av Tesla. Till att börja med behöver man ju ställa rätt fråga för att få rätt svar.

[Lerumsexpressen]

Jag har regerat på att det har börjat dyka upp fler och fler inlägg där man hänvisar till Chat GPT, Grok eller andra generativa AI:s som källa.
Enligt min mening tillför detta väldigt lite i diskussionerna och är ungefär som att säga ”Enligt min moster Kurt så…”. Är jag gnällig eller förstör detta mer än det hjälper?

Ja, du är en skeptiker som kommer att övertygas om att fördelarna är fler än nackdelarna framöver.
Parallella exempel är många, bilen, ånglok, industrialisering, elbilen, skrivmaskinen, mobilen, internet, radio, TV, datorer osv osv.

[Anderzzon]

Jag har regerat på att det har börjat dyka upp fler och fler inlägg där man hänvisar till Chat GPT, Grok eller andra generativa AI:s som källa.
Enligt min mening tillför detta väldigt lite i diskussionerna och är ungefär som att säga ”Enligt min moster Kurt så…”. Är jag gnällig eller förstör detta mer än det hjälper?

Ja, du är en skeptiker som kommer att övertygas om att fördelarna är fler än nackdelarna framöver.
Parallella exempel är många, bilen, ånglok, industrialisering, elbilen, skrivmaskinen, mobilen, internet, radio, TV, datorer osv osv.

Öh va? Jag är verkligen ingen skeptiker, jag jobbar med generativ AI. Men jag använder det inte för att argumentera i forum.

[Klintan]

Jag vill gärna bidra med några reflektioner kring diskussionen i tråden "AI på forumet" , där bland andra Anderzzon, fth, AAKEE och Jerker har delat sina perspektiv. Det är tydligt att användningen av AI-genererade svar väcker både intresse och oro, särskilt när det gäller deras påverkan på diskussionens kvalitet och tillförlitlighet.

### Opersonliga svar och brist på kontext

En av de mest påtagliga nackdelarna med AI-genererade svar är deras ofta opersonliga karaktär. De saknar den mänskliga erfarenheten, nyanserade förståelsen och det personliga engagemang som gör diskussioner levande och meningsfulla. Som Anderzzon påpekar, kan det liknas vid att hänvisa till "min moster Kurt" – det tillför sällan något substantiellt till samtalet.

Även om AI kan sammanfatta information effektivt, saknar den förmågan att förstå sammanhanget fullt ut. Det innebär att svaren kan bli generiska och ibland missvisande, särskilt i komplexa eller specialiserade ämnen.

### Felaktigheter och "hallucinationer"

AAKEE delar en viktig erfarenhet där AI gav felaktig information om litiumbatteriers degradering, vilket först rättades efter upprepade följdfrågor och egen kunskap. Detta illustrerar ett känt problem med AI-modeller: de kan generera så kallade "hallucinationer", där de presenterar felaktig eller påhittad information som om den vore sann. Enligt en artikel i Wikipedia , är detta en välkänd begränsning hos stora språkmodeller.([Wikipedia][1])

Ett konkret exempel är när en domare i Kalifornien bötfällde två advokatbyråer för att ha lämnat in juridiska dokument med påhittade referenser genererade av AI, utan att verifiera dem . Detta understryker vikten av att alltid granska och verifiera AI-genererad information innan den används som källa.([The Verge][2])

### Vikten av källkritik och mänsklig inblandning

Jerker betonar vikten av att inte ta AI-genererade sammanfattningar för givna, utan att själv läsa originalkällorna och göra en egen bedömning. Detta är en sund inställning, särskilt med tanke på att AI-modeller kan återge information utan att förstå dess relevans eller korrekthet.

Även om AI kan vara ett användbart verktyg för att snabbt få en överblick, bör det inte ersätta mänsklig analys och kritiskt tänkande. Det är genom våra egna erfarenheter och insikter som vi kan tillföra verkligt värde till diskussionerna.

### Slutsats

AI-teknikens framsteg är imponerande och erbjuder många möjligheter, men det är viktigt att vara medveten om dess begränsningar. För att upprätthålla kvaliteten och trovärdigheten i våra diskussioner på forumet bör vi:

* Använda AI som ett kompletterande verktyg, inte som en primär källa.
* Alltid verifiera AI-genererad information med pålitliga källor.
* Bidra med egna erfarenheter och insikter för att ge diskussionerna djup och relevans.

Genom att kombinera teknikens fördelar med mänsklig erfarenhet och kritiskt tänkande kan vi säkerställa att våra samtal förblir både informativa och engagerande.

[1]: https://en.wikipedia.org/wiki/Hallucina ... hatgpt.com "Hallucination (artificial intelligence)"
[2]: https://www.theverge.com/news/666443/ju ... hatgpt.com "Judge slams lawyers for 'bogus AI-generated research'"

[Lerumsexpressen]

Jag vill gärna bidra med några reflektioner kring diskussionen i tråden "AI på forumet" , där bland andra Anderzzon, fth, AAKEE och Jerker har delat sina perspektiv. Det är tydligt att användningen av AI-genererade svar väcker både intresse och oro, särskilt när det gäller deras påverkan på diskussionens kvalitet och tillförlitlighet.

### Opersonliga svar och brist på kontext

En av de mest påtagliga nackdelarna med AI-genererade svar är deras ofta opersonliga karaktär. De saknar den mänskliga erfarenheten, nyanserade förståelsen och det personliga engagemang som gör diskussioner levande och meningsfulla. Som Anderzzon påpekar, kan det liknas vid att hänvisa till "min moster Kurt" – det tillför sällan något substantiellt till samtalet.

Även om AI kan sammanfatta information effektivt, saknar den förmågan att förstå sammanhanget fullt ut. Det innebär att svaren kan bli generiska och ibland missvisande, särskilt i komplexa eller specialiserade ämnen.

### Felaktigheter och "hallucinationer"

AAKEE delar en viktig erfarenhet där AI gav felaktig information om litiumbatteriers degradering, vilket först rättades efter upprepade följdfrågor och egen kunskap. Detta illustrerar ett känt problem med AI-modeller: de kan generera så kallade "hallucinationer", där de presenterar felaktig eller påhittad information som om den vore sann. Enligt en artikel i Wikipedia , är detta en välkänd begränsning hos stora språkmodeller.([Wikipedia][1])

Ett konkret exempel är när en domare i Kalifornien bötfällde två advokatbyråer för att ha lämnat in juridiska dokument med påhittade referenser genererade av AI, utan att verifiera dem . Detta understryker vikten av att alltid granska och verifiera AI-genererad information innan den används som källa.([The Verge][2])

### Vikten av källkritik och mänsklig inblandning

Jerker betonar vikten av att inte ta AI-genererade sammanfattningar för givna, utan att själv läsa originalkällorna och göra en egen bedömning. Detta är en sund inställning, särskilt med tanke på att AI-modeller kan återge information utan att förstå dess relevans eller korrekthet.

Även om AI kan vara ett användbart verktyg för att snabbt få en överblick, bör det inte ersätta mänsklig analys och kritiskt tänkande. Det är genom våra egna erfarenheter och insikter som vi kan tillföra verkligt värde till diskussionerna.

### Slutsats

AI-teknikens framsteg är imponerande och erbjuder många möjligheter, men det är viktigt att vara medveten om dess begränsningar. För att upprätthålla kvaliteten och trovärdigheten i våra diskussioner på forumet bör vi:

* Använda AI som ett kompletterande verktyg, inte som en primär källa.
* Alltid verifiera AI-genererad information med pålitliga källor.
* Bidra med egna erfarenheter och insikter för att ge diskussionerna djup och relevans.

Genom att kombinera teknikens fördelar med mänsklig erfarenhet och kritiskt tänkande kan vi säkerställa att våra samtal förblir både informativa och engagerande.

[1]: https://en.wikipedia.org/wiki/Hallucina ... hatgpt.com "Hallucination (artificial intelligence)"
[2]: https://www.theverge.com/news/666443/ju ... hatgpt.com "Judge slams lawyers for 'bogus AI-generated research'"

Vågar man gissa att ditt inlägg inte är skrivet av dig?

[Lerumsexpressen]

Jag har regerat på att det har börjat dyka upp fler och fler inlägg där man hänvisar till Chat GPT, Grok eller andra generativa AI:s som källa.
Enligt min mening tillför detta väldigt lite i diskussionerna och är ungefär som att säga ”Enligt min moster Kurt så…”. Är jag gnällig eller förstör detta mer än det hjälper?

Ja, du är en skeptiker som kommer att övertygas om att fördelarna är fler än nackdelarna framöver.
Parallella exempel är många, bilen, ånglok, industrialisering, elbilen, skrivmaskinen, mobilen, internet, radio, TV, datorer osv osv.

Öh va? Jag är verkligen ingen skeptiker, jag jobbar med generativ AI. Men jag använder det inte för att argumentera i forum.

Du frågade om du var gnällig, och min analys var att du är skeptisk till användandet, likt många var skeptiska till hjälpmedel som ses som naturliga idag.

Men jag kan kalla dig för gnällig om det är mer korrekt.