Die Definition eines Computer-Programmes besteht u.a. darin, dass es von Anfang bis Ende nachvollziehbar ist

Rybezahl, Montag, 02.10.2023, 17:55 (vor 234 Tagen) @ paranoia1231 Views
bearbeitet von Rybezahl, Montag, 02.10.2023, 18:34

Hallo!

Dem möchte ich wiedersprechen. Meines Wissens ist das Sprachmodell ChatGPT ein neuronales Netzwerk, das man mit vielen Texten trainiert hat.

Ja, die Zettelkasten.

Infolgedessen kannst Du nicht mehr algorithmisch nachvollziehen, was das Modell macht und warum das Modell das macht.

Es mag unpraktisch sein, also evtl. mehrere Jahrtausende dauern, aber es ist definitiv jeder Schritt nachvollziehbar. Ansonsten ist es Magie.

Die "KI" kann auch nach einigen Durchläufen ihre eigenen grundsätzlichen Determinanten modifizieren, falls dies im Programm vorgesehen ist, und so den Prozess "noch magischer" erscheinen lassen. Indes speist sich diese Veränderung 1) aus der vorgegeben Programmierung und 2) aus der gegebenen Datenbank (Zettelkasten). Wie ich schon sagte: Ein ewig sich selbst repetierender Zettelkasten. Ohne neue (innovative, kreative) Eingabe auch keine 'neue' Ausgabe, sondern nur eine (Re)Kombination aus der gegebenen Datenbank (Zettelkasten).

Übrigens: Die bis dato entwickelte "KI" ist und bleibt zwangsläufig nur ein winzig kleiner Ausschnitt unserer gemeinsamen Realität - die ja, so sagt man, ihrerseits nur ein winzig kleiner Teil der noch viel größeren Realität ist -, da die KI, bisher, keine Wahrnehmungsorgane besitzt, wie der Mensch sie besitzt.

Bei einem Schachprogramm alter Schule, das mit einem menschlichen Bewertungsalgorithmus für eine Stellung ausgestattet ist und den Baum möglicher Zugfolgen bis zu einer bestimmten Suchtiefe stupide durchrechnet, ist es möglich, jeden Gedanken des Programms nachzuvollziehen.

Ja, und eine "KI" ist eben noch sehr viel komplexer. Vielleicht so: Wenn das Schachprogramm das Atom ist, dann ist die KI der Einzeller. Was aber nichts an den Tatsachen ändert.

Gruß!


gesamter Thread:

RSS-Feed dieser Diskussion

Werbung