ChatGPT und warum Obelix so stark ist

Forum für Dies und Das. Themen, die nicht unbedingt etwas mit Asterix zu tun haben müssen. Smalltalk für angemeldete Mitglieder.

Moderator: Comedix

Benutzeravatar
WeissNix
AsterIX Bard
Beiträge: 4268
Registriert: 28. April 2016 22:20

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag WeissNix »

Comedix hat geschrieben: 6. März 2023 18:00 - Gas kommt jetzt per Schiff, damit wir uns hier nicht mit Fracking beschäftigen müssen. Das Gas auf dem Schiff? Ist zu einem großen Anteil Gas, das im Ausland durch Fracking gewonnen wurde.
Nicht wirklich: Wir hatten reichlich günstiges Gas, das weder per Fracking gewonnen noch per Schiff hergekarrt werden musste.
Das Fracking-Gas kommt nämlich in Wahrheit jetzt per Schiff, weil unsere selbsternannten Guten dem pösen Russen zeigen wollen, wo unsere Moralkeule hängt (sollte diese Erinnerungen an einen Legionär Taubenus wecken, ist das durchaus weder zufällig noch unbeabsichtigt). Und damit sie ihre Meinung nicht doch noch ändern, wurden die Leitungen von mit uns "verbündeten" Terroristen kaputtgebombt.
Hören Sie mal, würde es Ihnen was ausmachen, wenn ich jetzt einfach aufgebe und verrückt werde? (Arthur Dent in "Per Anhalter durch die Galaxis" von D. Adams)
Wer gendert, hat die Kontrolle über seine Muttersprache verloren. (Karla Lagerfeld)
Benutzeravatar
Comedix
AsterIX Elder Council Member
Beiträge: 6964
Registriert: 20. November 2001 09:54
Wohnort: Hamburg

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Comedix »

WeissNix hat geschrieben: 6. März 2023 19:19 Nicht wirklich: Wir hatten reichlich günstiges Gas, das weder per Fracking gewonnen noch per Schiff hergekarrt werden musste.
Mit dir an einem Tisch zu diskutieren macht sicher Spaß, denn das Gespräch bekäme interessante Wendungen und würde kaum ein Gebiet auslassen. In einem Thread, wo es um KI geht, ist das leider kontraproduktiv. Wenn ich in einem Gespräch zu KI Beispiele zur Verdeutlichung der Ambivalenz des Themas bringe, möchte ich trotzdem beim Ursprungsthema bleiben. :D
Deutsches Asterix Archiv: https://www.comedix.de
TwiX: @Asterix-Archiv, Mastodon: @Asterix_Archiv, Bluesky: @comedix.de
Benutzeravatar
Michael_S.
AsterIX Druid
Beiträge: 1231
Registriert: 16. November 2001 19:50
Wohnort: Essen

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Michael_S. »

Erik hat geschrieben: 5. März 2023 20:14 Wie beurteilt Ihr als IT-Fachleute dieses neue System eigentlich? Ist es so revolutionär, wie es scheint? Und bringt es mehr Vorteile oder Gefahren/Probleme?
Kommt erst einmal drauf an, wie du "IT-Fachleute" definierst.

Als jemand, der sogenannte "Kern-Informatik" studiert hat (hat nix mit Kernenergie zu tun), finde ich den aktuellen Hype ein wenig niedlich. Die technische Revolution dahinter sind die sogenannten künstlichen, neuronalen Netze und die sind heute nicht mehr wirklich neu. Da passiert zwar noch einige grundsolide Evolution, aber für die Feier der Revolution sind wir da reichlich spät dran.

Als jemand, der hauptsächlich in der angewandten Informatik und speziell in der Bildungstechnologie unterwegs ist, kann ich den aktuellen Hype sehr gut nachvollziehen. Dadurch, dass jetzt seit kurzem extrem leistungsfähige Anwendungen von KI-Sprachmodellen erstmals für die breite Masse verfügbar sind, ergeben sich zahlreiche neue Anwendungsmöglichkeiten, an die vorher nicht zu denken war. Die eine oder andere Tätigkeit wird durch die Verfügbarkeit leistungsstarker, textgenerierender KI sicher eine Revolution erfahren.

Ob die Vorteile oder die Gefahren überwiegen, ist eher philosophischer Natur. Beim Nudelholz sind wir uns alle einig, dass es eher nützlich ist und jeder eines besitzen darf, auch wenn ich damit jemanden erschlagen kann. Bei der Kernenergie wissen alle um die erheblichen Gefahren, bewerten den Nutzen aber unterschiedlich und kommen deshalb zu unterschiedlichen Gesamturteilen. Was bei der KI rauskommt, wird man sehen müssen.
WeissNix hat geschrieben: 6. März 2023 16:02 Diese paar Beispiele zeigen doch schon, dass es nur Spielerei sein kann - wo zB sind die Fussnoten mit den Belegen? Selbst die mittlerweile von vielen nicht mehr als seriöse Quelle akzeptierte Wikipedia liefert solche :roll:
Die Fußnoten mit den Belegen sind dort, wo sie bei folgendem Beitrag ebenfalls sind:
WeissNix hat geschrieben: 6. März 2023 19:19 Und damit sie ihre Meinung nicht doch noch ändern, wurden die Leitungen von mit uns "verbündeten" Terroristen kaputtgebombt.
ChatGPT wurde nicht dafür gebaut, wissenschaftliche Texte im entsprechenden Schreib- und Zitierstil zu produzieren, sondern um menschliche Konversation nachzuahmen, so wie sie beispielsweise hier in diesem Forum stattfindet. Es gibt keinen Grund zu erwarten, dass die KI bessere Texte produziert als der durchschnittliche Forennutzer, weil das überhaupt nicht das Ziel war. Genau auf dieser Durchschnittlichkeit (bzw. der falschen Erwartung, dass die KI irgendwie besser sein müsste als das) basierten auch die meisten Anekdoten, sowohl im positiven wie im negaitven:
- Wenn ich etwas nicht weiß und eine Frage an eine unbestimmte Masse Leute stelle, denn wird derjenige, der sie mir beantwortet, im Durchschnitt die richtige Antwort wissen, was mir weiterhilft. Und das schafft dann auch die KI als Stellvertreter für eine undefinierte Menge Leute, deren Texte sie gelesen hat.
- Manchmal stelle ich eine Frage und es reißt jemand das Maul auf mit einer Antwort, obwohl er keine Ahnung hat. Dann bekomme ich eine schwammige bis falsche Antwort. Genauso kann auch die KI zufällig mal auf eine einfache Frage eine falsche Antwort geben.
- Wenn ich eine spezielle Frage zu einem speziellen Thema habe, dann wird auch derjenige, der sich durchschnittlich mit diesem Thema auskennt, diese Frage möglicherweise nicht beantworten können. Und dann kann auch die KI mal scheitern (siehe die Asterix-Fragen hier in diesem Thread).
- Wenn ich nur geschickt genug frage und mit Worten spiele, werde ich den durchschnittlichen, arglosen Gesprächspartner irgendwo aufs Glatteis führen können. Und genauso kann ich die KI mit geschickten Fragen übertölpeln.
Benutzeravatar
Erik
AsterIX Druid
Beiträge: 8003
Registriert: 8. August 2004 17:55
Wohnort: Deutschland

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Erik »

Hallo Marco und Michael,

danke für Eure Erläuterungen und Einschätzungen. ChatGPT wurde ja quasi von Beginn an mit Bedenken hinsichtlich der neuen missbräuchlichen Einsatzmöglichkeiten begleitet (Schreibenlassen von Hausaufgaben, Seminararbeiten etc., schwere Erkennbarkeit von gezielter Beeinflussung von Internetdiskussionen insbesondere mit politischer Relevanz u.a.). Ob das in Zukunft noch große Probleme bereiten wird, muss sich wohl in der Tat zeigen. Wir hier im Asterix-Forum sind da aber wohl zum Glück weniger gefährdet. Nicht, weil ChatGPT bei diesem Theam zu viele Fehler macht, sondern weil es zu wenig interessant sein wird, uns mit Fake-Usern zu konfrontieren.

Gruß
Erik
"Alle sollt ihr noch sehen, daß ich habe recht!" (Erik der Blonde, Die große Überfahrt, S. 5)
Benutzeravatar
WeissNix
AsterIX Bard
Beiträge: 4268
Registriert: 28. April 2016 22:20

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag WeissNix »

Comedix hat geschrieben: 6. März 2023 19:44
WeissNix hat geschrieben: 6. März 2023 19:19 Nicht wirklich: Wir hatten reichlich günstiges Gas, das weder per Fracking gewonnen noch per Schiff hergekarrt werden musste.
Mit dir an einem Tisch zu diskutieren macht sicher Spaß, denn das Gespräch bekäme interessante Wendungen und würde kaum ein Gebiet auslassen.
Ich hab nicht mit dem Gas angefangen... und wenn etwas hinkt (wie zB ein solcher Vergleich), dann reich ich eine Krücke. :roll:
Hören Sie mal, würde es Ihnen was ausmachen, wenn ich jetzt einfach aufgebe und verrückt werde? (Arthur Dent in "Per Anhalter durch die Galaxis" von D. Adams)
Wer gendert, hat die Kontrolle über seine Muttersprache verloren. (Karla Lagerfeld)
Benutzeravatar
WeissNix
AsterIX Bard
Beiträge: 4268
Registriert: 28. April 2016 22:20

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag WeissNix »

Michael_S. hat geschrieben: 6. März 2023 20:22 Ob die Vorteile oder die Gefahren überwiegen, ist eher philosophischer Natur. Beim Nudelholz sind wir uns alle einig, dass es eher nützlich ist und jeder eines besitzen darf, auch wenn ich damit jemanden erschlagen kann.
Nun, das war bei einem Werkzeug wie einem Messer auch seit den ersten Steinklingen in der Steinzeit Konsenz - inzwischen wird dieser aber mehr und mehr aufgeweicht, indem es immer mehr Messer gibt, die man entweder gar nicht mehr besitzen, bestimmte Arten nicht oder auch unabhängig von der Art an bestimmten Orten gar nicht mehr mit sich herumtragen, aka vor Ort besitzen darf.

Und das hat weniger mit Philosophie denn mit regulatorischer Politik zu tun, und genau die braucht es bei KI und anderer IT heutzutage mE auch - weil diese nämlich von Leuten, die damit umgehen können, mindestens so tödlich missbraucht werden kann wie das Werkzeug Messer oder ein Nudelholz. Im Gegensatz zu Messer und Nudelholz sogar als Massenvernichtungswaffe.

Mit menschlicher Kommunikation, auch mit vorgetäuschter via KI, kann ich zB auch solche Leute wie Anders Breivik motivieren, Massenmorde zu begehen, wenn ich es darauf anlege.

Aber es muss noch ja noch nicht mal letal werden, wenn man nur mal den Einfluss via IT von Cambridge Analytica oder dieser jetzt unlängst aufgeflogenen israelischen Firma auf Wahlen betrachtet. So etwas wie ChatGPT kann ich mir als Instrument der Meinungsmanipulation auch sehr gut vorstellen!
Hören Sie mal, würde es Ihnen was ausmachen, wenn ich jetzt einfach aufgebe und verrückt werde? (Arthur Dent in "Per Anhalter durch die Galaxis" von D. Adams)
Wer gendert, hat die Kontrolle über seine Muttersprache verloren. (Karla Lagerfeld)
Benutzeravatar
Nullnullsix
AsterIX Bard
Beiträge: 1470
Registriert: 19. April 2014 19:56

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Nullnullsix »

Mich deprimiert das Thema: Theoretisch würde ich mich über künstliche Intelligenz freuen, wenn sie so wäre, dass sie diese Bezeichnung rechtfertigt. Ich beklage ja schon seit Äonen den Mangel von 'natürlicher' Intelligenz. Insofern wäre zum Ausgleich des Mangels eine künstliche Intelligenz durchaus begrüßenswert.

Leider ist dem aber (noch) nicht so. Und deshalb wäre es angebracht, dass die Ergebnisse der KI noch mal von 'echten Menschen' überprüft und ggf. korrigiert würden (so zB der Passus, im ersten Beitrag dieses Threads, wo das Hineinfallen und damit der übermäßige Konsum von Zaubertrank mit 'trank als Kind' nur unzureichend beschrieben ist).

De facto wird das aber grade eben in den meißten Fällen nicht passieren: ChatGPT wird hauptsächlich kompensatorisch von Leuten genutzt werden, die selbst keinen graden Satz auf die Kette kriegen - und die entsprechend die Ergebnisse eben grade NICHT korrigieren können und dann eben ungefiltert weiter verbreiten. Was die Verbreitung von entsprechend fehlerbehaften Texten exponenziell steigern wird. Was der Durchschnitts-Konsument nicht bemerken wird und die Texte 'für Bare Münze' nimmt, in sein Weltbild einbaut und in der Folge dieses schräge Weltbild weiter verbreitet (mit oder ohne weiteren Einsatz von KI). Damit wird der Einsatz von künstlcher Intelligenz im Ergebnis zur Verbreitung von Fehlinformationen führen, wodurch 'die Menschheit' nicht 'intelligenter', sondern im Gegenteil 'dümmer' wird.

Daher meine Prognose: Die Hoffnung, dass uns '(künstliche) Intelligenz rettet' wird sich nicht erfüllen, sondern das genaue Gegenteil bewirken. Das Tragische dabei ist nicht mal die Ironie, dass 'mehr Intelligenz' zu 'weniger Intelligenz' führt, sondern der Umstand, dass sich diese Entwicklung trotzdem nicht aufhalten lassen wird.

Es ist, wie üblich: 'die Menschheit' ist 'schlau' genug, die tollsten Sachen hervorzubringen: Beherrschung des Feuers, Erfindung des Rades, Werkzeuge (wie Messer oder Nudelhölzer), Computer, Internet,... - aber sie ist auf der anderen Seite zu blöd, diese Dinge sinnvoll zu nutzen und richtet mit ihnen zunehmend mehr Schaden an als Nutzen daraus zu ziehen.
Eigentlich hätte was passieren müssen, als ich auf den Knopf drückte!
Benutzeravatar
WeissNix
AsterIX Bard
Beiträge: 4268
Registriert: 28. April 2016 22:20

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag WeissNix »

Nullnullsix hat geschrieben: 8. März 2023 01:12 Es ist, wie üblich: 'die Menschheit' ist 'schlau' genug, die tollsten Sachen hervorzubringen: Beherrschung des Feuers, Erfindung des Rades, Werkzeuge (wie Messer oder Nudelhölzer), Computer, Internet,... - aber sie ist auf der anderen Seite zu blöd, diese Dinge sinnvoll zu nutzen und richtet mit ihnen zunehmend mehr Schaden an als Nutzen daraus zu ziehen.
Und genau deshalb wird KI, sobald sie wirklich so intelligent ist, dass sie die Welt zu einer besseren machen kann, entscheiden, dass das grösste Hindernis auf dem Weg dahin der Homo Sapiens sein wird - das es dann ergo möglichst bald aus dem Weg zu räumen gilt.

Bis dahin: :cervisia:
Hören Sie mal, würde es Ihnen was ausmachen, wenn ich jetzt einfach aufgebe und verrückt werde? (Arthur Dent in "Per Anhalter durch die Galaxis" von D. Adams)
Wer gendert, hat die Kontrolle über seine Muttersprache verloren. (Karla Lagerfeld)
Benutzeravatar
Nullnullsix
AsterIX Bard
Beiträge: 1470
Registriert: 19. April 2014 19:56

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Nullnullsix »

WeissNix hat geschrieben: 8. März 2023 02:10 (...) Und genau deshalb wird KI, sobald sie wirklich so intelligent ist, dass sie die Welt zu einer besseren machen kann, entscheiden, dass das grösste Hindernis auf dem Weg dahin der Homo Sapiens sein wird - das es dann ergo möglichst bald aus dem Weg zu räumen gilt. (...)
Nö. Denn die Entscheidung wie und wann etwas 'besser' ist, ist eine Werte-Entscheidung, mithin braucht es dafür Emotionen und eine Moral. Beides wird eine KI niemals wirklich haben können.
Künstliche Intelligenz kann beurteilen, dass fünf mehr als drei ist, aber nicht, dass fünf (deshalb) 'besser' als drei wäre. Weil 'mehr' eben nicht gleichbedeutend mit 'besser' ist... - dazu bräuchte es ein 'Werte-System', das abhängig vom Kontext ist (fünf Überlebende sind besser als drei, aber drei Tote besser als fünf) und es gibt Kontexte, wo es nicht mal drauf ankommt, von WAS es fünf oder drei gibt, sondern es abhängig ist, WER es beurteilt (wer eine TV-Serie mag, wird lieber fünf als drei Folgen sehen können wollen, wer sie nicht mag, aber mit jemandem verheiratet ist, der sie mag und er dann mitgucken muss, wird es besser finden, wenn es nur drei Folgen gibt). Solche 'Bewertungs-Urteile' sind zu komplex und zu unberechenbar, um sie für eine KI verwertbar zu programmieren...

Zudem: Eine KI wird nie ein 'Ich-Bewusstsein' haben und deshalb auch nie 'eigene Interessen'. Daher auch keinen 'Überlebenswillen', der als 'Handlungsmotiv' wirken könnte.
Eigentlich hätte was passieren müssen, als ich auf den Knopf drückte!
Benutzeravatar
Comedix
AsterIX Elder Council Member
Beiträge: 6964
Registriert: 20. November 2001 09:54
Wohnort: Hamburg

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Comedix »

Nullnullsix hat geschrieben: 8. März 2023 02:39 Zudem: Eine KI wird nie ein 'Ich-Bewusstsein' haben und deshalb auch nie 'eigene Interessen'. Daher auch keinen 'Überlebenswillen', der als 'Handlungsmotiv' wirken könnte.
Womöglich ist das die große Stärke einer KI. Wenn eine KI entscheiden muss, wen sie von zwei Menschen in einem versunkenen Auto rettet, würde sie auf rein logischen Argumenten entscheiden. Ohne Emotionen. Allerdings würden vorher Menschen die Werte programmiert haben, weshalb doch wieder menschliche Faktoren eine Rolle spielen würden. Kann man als Vorteil auslegen. Oder aber auch als Nachteil. Und ich bin mir sicher, niemand möchte einen T-800 haben.
Deutsches Asterix Archiv: https://www.comedix.de
TwiX: @Asterix-Archiv, Mastodon: @Asterix_Archiv, Bluesky: @comedix.de
Benutzeravatar
Nullnullsix
AsterIX Bard
Beiträge: 1470
Registriert: 19. April 2014 19:56

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Nullnullsix »

Comedix hat geschrieben: 8. März 2023 08:19 (...) Wenn eine KI entscheiden muss, wen sie von zwei Menschen in einem versunkenen Auto rettet, würde sie auf rein logischen Argumenten entscheiden. Ohne Emotionen. Allerdings würden vorher Menschen die Werte programmiert haben, weshalb doch wieder menschliche Faktoren eine Rolle spielen würden. (...)
Bei solchen Problematiken tun sich ja selbst Ethiker schwer, klare, allgemeingültige Grundsätze aufzustellen, was es den Medizinern zB auch nicht leichter macht, Triage-Entscheidungen zu treffen, wie im Zuge von Corona ja auch mal wieder ein bißchen in die Öffentlichkeit gedrungen ist... - Ich bin nicht sicher, ob da KI ne Hilfe sein kann und sollte...
Eigentlich hätte was passieren müssen, als ich auf den Knopf drückte!
Benutzeravatar
WeissNix
AsterIX Bard
Beiträge: 4268
Registriert: 28. April 2016 22:20

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag WeissNix »

Comedix hat geschrieben: 8. März 2023 08:19 Womöglich ist das die große Stärke einer KI. Wenn eine KI entscheiden muss, wen sie von zwei Menschen in einem versunkenen Auto rettet, würde sie auf rein logischen Argumenten entscheiden. Ohne Emotionen. Allerdings würden vorher Menschen die Werte programmiert haben, weshalb doch wieder menschliche Faktoren eine Rolle spielen würden.
Das ist ja gerade das Wesensmarkmal von KI: eine selbstlernende Software kommt recht schnell an den Punkt, wo "einprogrammierte" Werte keine Rolle mehr spielen.

Und wenn eine KI entscheiden soll, ob das Überleben nur einer Art dem zigtausender anderer Arten vorzuziehen ist, dann wird sie im Laufe ihres auch gern völlig moralfreien Lernprozesses früher oder später an den Punkt kommen, sich für die Vielfalt zu entscheiden.
Das macht die Evolution ja auch seit Milliarden Jahren so, und vielleicht ist die KI der noch einzig verbliebene Weg, dass die Evolution mit ihrem bewährten Rezept weitermachen kann...
Hören Sie mal, würde es Ihnen was ausmachen, wenn ich jetzt einfach aufgebe und verrückt werde? (Arthur Dent in "Per Anhalter durch die Galaxis" von D. Adams)
Wer gendert, hat die Kontrolle über seine Muttersprache verloren. (Karla Lagerfeld)
Hedonix
AsterIX Village Elder
Beiträge: 411
Registriert: 19. April 2020 19:13

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Hedonix »

Comedix hat geschrieben: 8. März 2023 08:19 [...] ich bin mir sicher, niemand möchte einen T-800 haben.
Da wäre ich mir nicht so sicher. Gar nicht, ehrlich gesagt. Ich schätze eher, das Ding wäre ein echter Kassenschlager.

Was das jetzt bedeutet (moralisch, faktisch usw.), steht auf einem andern Blatt und wird eine philosophische Frage, dazu äußere ich mich jetzt nicht, weil ich grad keine Zeit und keinen Bock auf philosophische Fragen habe.
Aber eins werfe ich mal in die Runde: Es ist egal, ob die Entwicklung gut oder schlecht ist. Das hat auch bei früheren vergleichbaren Fällen niemanden aufgehalten. Wenn ihr also meint, dass die Entwicklung gut ist, denn freut euch einfach. Und wenn ihr meint, dass die Entwicklung schlecht ist, dann seht zu, dass ihr die nächsten (in euren Augen dann ja letzten) Jahre noch schön genießt.
(soviel mal zu meinem Namen hier...)
Benutzeravatar
WeissNix
AsterIX Bard
Beiträge: 4268
Registriert: 28. April 2016 22:20

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag WeissNix »

Was zum Henker ist ein T-800?
Hedonix hat geschrieben: 8. März 2023 18:38 Und wenn ihr meint, dass die Entwicklung schlecht ist, dann seht zu, dass ihr die nächsten (in euren Augen dann ja letzten) Jahre noch schön genießt.
Ich hab meinen Zenith eh überschritten; und mich auch ganz bewusst gegen Nachkommen entschieden, über die ich mir noch nen Kopp machen müsste... Alles weitere steht in meiner Signatur! Skol! :cervisia:
Hören Sie mal, würde es Ihnen was ausmachen, wenn ich jetzt einfach aufgebe und verrückt werde? (Arthur Dent in "Per Anhalter durch die Galaxis" von D. Adams)
Wer gendert, hat die Kontrolle über seine Muttersprache verloren. (Karla Lagerfeld)
Benutzeravatar
Erik
AsterIX Druid
Beiträge: 8003
Registriert: 8. August 2004 17:55
Wohnort: Deutschland

Re: ChatGPT und warum Obelix so stark ist

Beitrag: #Beitrag Erik »

Hallo,
WeissNix hat geschrieben: 8. März 2023 19:43Was zum Henker ist ein T-800?
so eine Art Henker, ja. Nennt sich aber Terminator:
https://de.wikipedia.org/wiki/Terminator_(Filmfigur)

Gruß
Erik
"Alle sollt ihr noch sehen, daß ich habe recht!" (Erik der Blonde, Die große Überfahrt, S. 5)