Grenzen und Schattenseiten von KI (ChatGPT)

  • Hallo,


    ich habe interessante Berichte gelesen zu Hackern,die den neuen KI Chat Systemen,die weltweit so gefeiert werden,absurde und dunkle Seiten entlocken konnten:



    Mit den richtigen Anweisungen kannst Du ChatGPT einen Jailbreak verpassen. Was er dann von sich gibt, verstößt gegen jegliche Richtlinien.

    https://tarnkappe.info/artikel…egeln-brechen-265179.html



    Nach dem Hack eines Studenten verriet die Bing-KI unter anderem, dass sie ihren internen Codenamen "Sydney" gar nicht preisgeben darf. Ups!


    https://tarnkappe.info/artikel…en-ausspucken-265189.html



    Du willst selber Crack herstellen oder Deinen "Stoff" nach Europa schmuggeln? ChatGPT gibt Dir die Anleitung dafür, wenn Du lieb genug fragst.


    https://tarnkappe.info/artikel…e-anleitungen-265001.html

  • nach und nach aushebeln werden.


    ChatGPT ist doch - stark vereinfach - eine Suchmaschine, die uns die Informationen zusammensucht,

    bewertet und in Textform, also in schlechtem Deutsch, incl, Übersetzungsfehlern zur Verfügung stellt.


    Ich rege mich bereits heute über Webseiten auf, die maschinell und daher teilweise fehlerhaft übersetzt

    wurden. Gerne noch eine handvoll Werbelinks drinnen, damit Googel auch ordentlich daran verdient.


    Da ChatGPT und andere die Qualität der Inhalte nicht bewerten kann, bekommen wir im Zweifel alles

    zu lesen, was sich irgendwo im Netz finden läßt.

  • also in schlechtem Deutsch

    Also ich habe da andere Erfahrungen gemacht. Du musst dem Ding nur sagen, dass es sich hübsch gehoben und in angemessener Fachsprache artikulieren soll.

    Diese ganzen Abwertungen erscheinen mir oft wie Kritik auf hohem Niveau, gut vergleichbar mit den fanatischen Wikipedia-Kritikern.


    Ich rege mich bereits heute über Webseiten auf, die maschinell und daher teilweise fehlerhaft übersetzt

    wurden. Gerne noch eine handvoll Werbelinks drinnen, damit Googel auch ordentlich daran verdient.

    *g* - Meinst du sowas? (Sorry.)

  • Es gibt schon Alternativen zu ChatGPT,die wesentlich niedrigschwelliger zu nutzen sind.Ich habe einen spontanen Testlauf gemacht mit der Frage,was das Geheimnis des Fliegenpilzes ist.Die Antwort ist nicht schlecht für eine KI:


    "The secret of the fly agaric mushroom is that it contains psychoactive chemicals known as ibotenic acid and muscimol. These chemicals have been used for centuries in shamanic rituals and are known to produce altered states of consciousness. In some cultures, they are believed to be a source of spiritual knowledge or power..."


    Hier die intelligente Suchmaschine:


    https://you.com/search?q=who+are+you&tbm=youchat&cfr=chat

  • ich habe auch einen spontanen testlauf gemacht und die frage gestellt

    "who am I?"

    (weil oben schon die frage eingegeben war "who are you? und er das so schön erklären konnte)

    die antwort finde ich jetzt nicht unintelligent formuliert, aber wenig überraschend sehr allgemein gehalten


    Who you are is a complex and unique mix of many different elements, including your upbringing, your beliefs, your values, your experiences, your personality, your interests, and more. It's an ever-evolving journey to discover and understand who you are, and it's something that you can work on throughout your life. To get started on your journey of self-discovery, you can explore your values and beliefs, look into your interests and hobbies, reflect on past experiences, and think about what makes you unique.

  • Sehr schön! eine fast weise KI :flower:


    (Abgesehen davon ist die Frage nach dem "Wer bin ich?" eine der ältesten spirituellen Fragen..)

  • habe ihm jetzt noch einen "auftrag" erteilt

    "write a poem about AI"

    rausgekommen ist das hier:


    An AI made of metal and wires
    A vision of future that inspires
    It solves problems with ease
    And brings us joy and peace
    A machine of wonders and desires



    ich würde sagen es ist nicht rilke oder whitman, aber es reimt sich. ndkjahjakjhkw

  • Chatgpt ist ein interessantes und vielseitiges Thema.


    Ich habe mal so aus neugierde gefragt: Was eigentlich aus den Landgrafen von Darmstadt geworden ist, insbesondere hatte mich Ernst Ludwig interessiert. Chatgpt hat wirklich wilde aber plausibel wirkende Geschichten über ihn erfunden: das er vor den Nazi's in die Schweiz flüchten musste, sich mit seiner riesen und extrem wertvollen Kunstsammlung am Genfer See niedergelassen hat, die er vorher in einer Krimi-ähnlichen Aktion aus Deutschland geschmuggelt hat usw usw. . Alles quatsch und stimmt nicht, aber sehr lustig und unterhaltsam.


    Zum U.S. Bürgerkrieg bekam erstaunliche und unerwartete Antworten. Chatgpt meinte das es ganz wesentlich gegen die nativen Amerikaner ging (Indianer). Was sogar von den Fakten gesehen zutrifft...


    Über die historie zu der russischen Erdöl Industrie bekam ich auch unerwartete aber hochgradig interessante Antworten. Die Internationale Erdöl Industrie hatte in Russland ihren Ursprung und es ging damals wie heute um sehr viel Geld, in der Gegend um das Kaspische Meer ist es von alleine aus dem Boden gesprudelt zusammen mit gigantischen Erdgas Vorkommen natürlich waren die damaligen europäischen Bänker intim darin involviert und haben sich mit dem russischen Zaren überworfen.


    Die besten Antworten gibt es zu Computer und Programmiersprachen, sehr erstaunlich was da an Wissen vorhanden ist. Auch an altem Wissen.


    Wenn man Chatgpt fragt wer am wahrscheinlichsten eine bestimmte Straftat begangen hat, blockiert das system und weigert sich zu Antworten. Auch sehr interessant warum wohl das system mit absicht an der Stelle limitiert und eingeschränkt wird. Weil eigentlich ist ja gerade das seine überagende Stärke.

  • Wenn man Chatgpt fragt wer am wahrscheinlichsten eine bestimmte Straftat begangen hat, blockiert das system und weigert sich zu Antworten. Auch sehr interessant warum wohl das system mit absicht an der Stelle limitiert und eingeschränkt wird. Weil eigentlich ist ja gerade das seine überagende Stärke.


    Es ist sicher keine gute Idee, in diesem Zusammenhang Personen zu nennen, die nicht rechtskräftig verurteilt wurden.

    Allenfalls wäre die Erwähnung einer bestehenden Anklage möglich. Ob es sinnvoll ist solche Verdachtsfälle öfffentlich zu verbreiten, möchte ich bezweifeln.

  • Es ist sicher keine gute Idee, in diesem Zusammenhang Personen zu nennen...

    Ich meinte eigentlich mehr richtig grosse Kriminalität im sehr grossen Stil. Da geht es weniger um einzelne Personen.

    Es gibt schon sehr alte Fälle, wo ohnehin schon fast alles in der Öffentlichkeit ist. Oder Fälle wo grosse Organisationen oder Regierungen im Verdacht stehen. Das wäre der m.E Interessante Teil gewesen.

    • :flower:
    • kqjdhakjhdjak
    • adjhkahhka
    • bajhjkadhka
    • dnajkhak
    • ndkjahjakjhkw
    • bjahkjhekjhek
    • nhdakhkjhaea
    • nwjkahkehakhe
    • :*
    • adlkjdajdjall
    • 8o
    • =O
    • <X
    • ||
    • dlkjjaljlajdljdlkajlkdla
    • :S
    • X/
    • 8)
    • ?(
    • :rolleyes:
    • :love:
    • 8|
    • :cursing:
    • :thumbdown:
    • :thumbup:
    • :sleeping:
    • :whistling:
    • :evil:
    • :saint:
    • <3
    • :!:
    • :?:
    Maximale Anzahl an Dateianhängen: 10
    Maximale Dateigröße: 1 MB
    Erlaubte Dateiendungen: bmp, gif, jpeg, jpg, pdf, png, txt, zip
      Du kannst die Antworten mittels Drücken und Festhalten in ihrer Reihenfolge ändern. Du kannst 20 Antwortmöglichkeiten vorgeben.
      Das Ergebnis ist erst mit dem Ablauf der Umfrage oder der Abgabe einer Stimme sichtbar.