Waarom geeft een AI telkens een verschillend antwoord op dezelfde vraag?
Wanneer je een AI telkens exact dezelfde vraag stelt, dan zal deze telkens een ander antwoord geven.
Waar komt die willekeurigheid vandaan ? Immers zowel de vraag, de trainingsdata en ook het model zelf zijn allen ongewijzigd. Het lijkt alsof er ergens een randomgenerator in het proces zit. En als dat zo is, kan een AI dan niet zonder die randomgenerator ? (waardoor het dan voorspelbare uitkomsten kan geven zoals een ouderwetse computer.)
3K
3K keer bekeken
Ikhebgeenidee
7 maanden geleden
Geef je dezelfde vraag direct achter elkaar in? Dan zou ik me kunnen voorstellen dat AI "denkt": die vraag heb ik net ook gehad en kennelijk was dat antwoord niet goed (genoeg). En geeft daarom een ander antwoord.
Edraket
7 maanden geleden
@Ozewiezewozewie...
Zijn die antwoorden wezenlijk anders?
Zijn die antwoorden wezenlijk anders?
Ozewiezewozewiezewallakristallix
7 maanden geleden
Dat ligt er aan. Wanneer je om een plaatje vraagt wel. Tekstuele antwoorden liggen meestal wel in dezelfde lijn. Maar er zijn wel verschillen.
En daar gaat mijn vraag over: een ouderwetse, procedurele computer komt met dezelfde input altijd exact (!) met hetzelfde resultaat.
Een neuraal netwerk niet. Beide zijn machines. Waarom komt een neuraal netwerk bij dezelfde input toch tot verschillende resultaten ? Wat is de bron of het proces achter die willekeur ?
Een neuraal netwerk niet. Beide zijn machines. Waarom komt een neuraal netwerk bij dezelfde input toch tot verschillende resultaten ? Wat is de bron of het proces achter die willekeur ?
Vaughn
7 maanden geleden
Noem eens een voorbeeld?
Ozewiezewozewiezewallakristallix
7 maanden geleden
Een voorbeeld... eens kijken....
Ik heb het, tegen mijn principes in, de vraag maar eens aan ChatGTP gesteld: "Geef een kort antwoord op de vraag: Waarom geeft een AI telkens een verschillend antwoord op dezelfde vraag?"
Tja, dan is het antwoord wel al duidelijk. (Ik heb het dus ook maar 1x gevraagd)
Antwoord van ChatGTP:
Ja, er zit inderdaad een vorm van willekeurigheid in het AI-proces. Die komt voort uit het gebruik van een randomgenerator bij het kiezen van woorden tijdens het genereren van tekst. Dit heet sampling. Hoewel het model, de data en de vraag gelijk blijven, bepaalt een parameter zoals temperature hoeveel variatie er zit in de antwoorden. Bij een hogere temperature kiest het model vaker minder waarschijnlijke woorden, wat leidt tot meer variatie. Als je die willekeurigheid uitschakelt (bijvoorbeeld met temperature = 0), dan wordt het antwoord volledig voorspelbaar en geeft de AI telkens exact hetzelfde antwoord op dezelfde vraag — net als een traditionele computer.
Ja, er zit inderdaad een vorm van willekeurigheid in het AI-proces. Die komt voort uit het gebruik van een randomgenerator bij het kiezen van woorden tijdens het genereren van tekst. Dit heet sampling. Hoewel het model, de data en de vraag gelijk blijven, bepaalt een parameter zoals temperature hoeveel variatie er zit in de antwoorden. Bij een hogere temperature kiest het model vaker minder waarschijnlijke woorden, wat leidt tot meer variatie. Als je die willekeurigheid uitschakelt (bijvoorbeeld met temperature = 0), dan wordt het antwoord volledig voorspelbaar en geeft de AI telkens exact hetzelfde antwoord op dezelfde vraag — net als een traditionele computer.
Heb je meer informatie nodig om de vraag te beantwoorden? Reageer dan hier.