"Deepfakes" - Lustig oder eine Gefahr?

Das künstliche eigenständige Hirn ist längst in Entwicklung, hoffentlich wird es nicht sowie Skynet bei Terminator.

Und bei den Deepfakes, glaube ich , kommen sicherlich mit der Zeit "Erkennungsfilter Programme".
Aber wie es bei der Menschheit üblich ist, erst wenn viel Scheisse passiert, dann tut man was.

Um mal mit dem Mythos aufzuräumen ... für die eingangs erwähnten Deep Fakes reicht ein Foto bei weitem nicht. Es müssen schon viele Bilder aus unterschiedlichen Perspektiven zusammengesammelt werden, um solche Produktionen zu ermöglichen.

In der Regel werden dazu Filmsequenzen verwendet, aus denen einzelne Frames extrahiert werden. Dann geht das aber wohl recht einfach, mit entsprechender Rechenleistung.

Ist das Gefährlich? Ja, absolut. Weil es wie eh schon öfters erwähnt das so wertvolle Gut der Glaubwürdigkeit massiv angreift. Aber vielleicht besinnt man sich dann wieder mehr auf echte Quellen. Es wird außerdem mittlerweile intensiv auch daran geforscht, solche Deep Fakes zu identifizieren.

Das erste mal habe ich im Rahmen einer Star Trek Episode davon gehört, da wurde der alte Captain Kirk in eine TNG-Episode hineinge"faked" ... war damals ein ziemlich groß aufgezogenes Ding.

Mitglied #457243 schrieb:

Um mal mit dem Mythos aufzuräumen ... für die eingangs erwähnten Deep Fakes reicht ein Foto bei weitem nicht. Es müssen schon viele Bilder aus unterschiedlichen Perspektiven zusammengesammelt werden, um solche Produktionen zu ermöglichen.

In der Regel werden dazu Filmsequenzen verwendet, aus denen einzelne Frames extrahiert werden. Dann geht das aber wohl recht einfach, mit entsprechender Rechenleistung.

Ist das Gefährlich? Ja, absolut. Weil es wie eh schon öfters erwähnt das so wertvolle Gut der Glaubwürdigkeit massiv angreift. Aber vielleicht besinnt man sich dann wieder mehr auf echte Quellen. Es wird außerdem mittlerweile intensiv auch daran geforscht, solche Deep Fakes zu identifizieren.

Das erste mal habe ich im Rahmen einer Star Trek Episode davon gehört, da wurde der alte Captain Kirk in eine TNG-Episode hineinge"faked" ... war damals ein ziemlich groß aufgezogenes Ding.

Zum Vergrößern anklicken....

Gibt ja schon laaaange viele Filme, in denen Schauspieler auftauchen, die längst tot sind...
Ob man sie aus alten Scenen reinschneidet, oder mit Computer reingeneriert, ist eher sekundär. Natürlich lassen sich mit entsprechender Software neue/fremde/andere Sachen machen- klar ist das bedenklich.
Aber King Kong, Godzilla, Transformers, und die Avengers gibts auch nicht wirklich-
Egal wie echt es im Film aussieht...

Hi,

Mitglied #447650 schrieb:

derart gut und professionell, dass selbst Experten kaum noch nachvollziehen können, ob das manipulierte Material echt oder gefälscht ist.

Zum Vergrößern anklicken....

Quelle? Die Computerforensik hat an sich keine Probleme, hier Manipulationen zu beweisen.

LG Tom

Mitglied #469517 schrieb:

Hi,



Quelle? Die Computerforensik hat an sich keine Probleme, hier Manipulationen zu beweisen.

LG Tom

Zum Vergrößern anklicken....

Die Quelle müsste ich erst raussuchen.
Aber dort hieß es ja auch nicht, dass es heute absolut unmöglich wäre.

Manche sind eben schon so gut, dass der normale Mensch nicht mehr (oder kaum noch) feststellen kann, was echt ist oder nicht.
Und dass man davon ausgeht, dass diese Technik sehr bald SO perfekt von der KI beherrscht wird, dass man ebenfalls KI-basierte Programme brauchen wird, um überhaupt noch derart professionelle Fakes erkennen zu können.

Mitglied #447650 schrieb:

Die Quelle müsste ich erst raussuchen.
Aber dort hieß es ja auch nicht, dass es heute absolut unmöglich wäre.

Manche sind eben schon so gut, dass der normale Mensch nicht mehr (oder kaum noch) feststellen kann, was echt ist oder nicht.
Und dass man davon ausgeht, dass diese Technik sehr bald SO perfekt von der KI beherrscht wird, dass man ebenfalls KI-basierte Programme brauchen wird, um überhaupt noch derart professionelle Fakes erkennen zu können.

Zum Vergrößern anklicken....

Für viele zählt weder Beweis noch Gegenbeweis...
Der Mensch war nie am Mond, aber UFOs landen täglich auf unserer flachen Erden-Scheibe welche von Echsen regiert wird und von Flugzeugen besprüht....

Was willst du dem erzählen, der so leichtgläubig ist?

Wir sehen doch eh alle nur das, was uns die Martrix als Realität vorgaukelt...

Hi,

Mitglied #457243 schrieb:

Das erste mal habe ich im Rahmen einer Star Trek Episode davon gehört, da wurde der alte Captain Kirk in eine TNG-Episode hineinge"faked" ... war damals ein ziemlich groß aufgezogenes Ding.

Zum Vergrößern anklicken....

Das ist DS9 und die Episode "Immer die Last mit den Tribbles" aus 1996. Immer die Last mit den Tribbles

Schon Jahre vorher wurde Tom Hanks in Forrest Gump in Filmszenen mit Kennedy und anderen reingeschnitten. Und auch zuvor gab es das nicht selten, bei Forrest Gump war es besser als bei StarTrek und es war das erste mal, dass etwas komplett oder zu einem großen Teil computergeneriert war! George Lucas Firma Industrial Light & Magic - Wikipedia hatte wieder mal die Nase vorn!



Es ist wie mit der Fotonachbearbeitung, das wird gemacht seit es Fotos gibt, schon auf den erste Fotoplatten aus Glas wurde händisch nachbearbeitet, teilweise gemalt .... und natürlich gefälscht. Es wurde nur immer einfacher, wofür ein Fotograf früher Stunden in der Dunkelkammer brauchte, machte man später on the Fly mit leistungsfähigen Grafikworkstations und heute machen das Apps am Smartphone in unglaublicher Qualität.

Die Bearbeitung kann idR. sehr leicht nachgewiesen werden. Die Auswirkungen sind aber komplett andere: Videonachbearbeitungen waren aufwendig und teuer. Wag the Dog – Wenn der Schwanz mit dem Hund wedelt – Wikipedia

Was sich geändert hat, ist das Vertrauen in Filmchen, egal ob ein Video von einem Mobiltelefon aus Syren oder wie weiße Polizisten einen Afroamerikaner verprügeln, oder wo Polizisten einen mutmaßlichen Straßenräuber brutal festnehmen, die Menschen trauen dem erstmal, weil so gut und so schnell kann man ja das Video nicht fälschen. Das hat sich geändert.


Die Gefahr sehen wir z.B. in den Unruhen in Los Angeles 1992, Rodney King hat Polizisten angegriffen und ist verprügelt worden. Es gab Unruhen mit vielen Toten, vor allem in South Central. Nachdem die Polizisten freigesprochen wurden. Eine Woche Unruhen, die erst durch 20.000 Soldaten tausenden Verhaftungen und Schäden in Milliardenhöhe beendet wurden.

Ursache war hier, dass nur ein kleiner Ausschnitt des Videos gezeigt wurde, wo King schon wehrlos am Boden lag und immer noch Schläge mit Schlagstock kamen. Der Teil des Videos, wo er die Polizisten angriff, wurde kaum gezeigt. Hätte man immer das ganze Video gezeigt, es hätte keine Ausschreitungen gegeben.

Das ist die Gefahr, dass künftig manipulierte Videos auftauchen, denen man ungeprüft glaubt. Und in weiterer Folge eben gar nicht mehr glaubt.

Also selbst wenn Wissenschafter bestätigen, dass keine Manipulation vor liegt, werden viele Menschen das nicht glauben.

LG Tom

Hi,

Mitglied #447650 schrieb:

Manche sind eben schon so gut, dass der normale Mensch nicht mehr (oder kaum noch) feststellen kann, was echt ist oder nicht.

Zum Vergrößern anklicken....

ja, das ist was anderes.

Und dass man davon ausgeht, dass diese Technik sehr bald SO perfekt von der KI beherrscht wird, dass man ebenfalls KI-basierte Programme brauchen wird, um überhaupt noch derart professionelle Fakes erkennen zu können.

Zum Vergrößern anklicken....

Das halte ich für unwahrscheinlich. Dort wo der Schnitt ist, kommt es zu Unschärfen, es werden z.B. Teile des alten und neuen Inhalts vermengt. Also dass etwas manipuliert wurde, kann man idR. recht sicher sagen.

LG Tom

Mitglied #447650 schrieb:

"Stand heute (2017) : es eigentlich nicht mehr möglich, dass jemand das Internet "abschaltet". Auch die USA haben nicht mehr die volle Kontrolle über das gesamte DNS-Rootnetz. Auch dank paralleler Strukturen (Google betreibt mit seinem DNS-Server 8.8.8.8 inzwischen den größten DNS-Knoten der Welt) wird das schwierig. Bleibt noch zu erwähnen, dass mit DNSSec ein Mechanismus geschaffen wurde um das DNS-Netz einigermaßen stabil gegenüber Hackerangriffen zu machen.

Bleiben die internationalen Verbindungen: bei den transkontinentalen Verbindungen kommen heutzutage keine Satelliten mehr zum Einsatz, da diese viel zu langsam sind. Das sind alles Glasfaserleitungen, praktisch alle im Besitzt von großen Firmenstrukturen. Die alle auf einmal zu kappen ist ziemlich unwahrscheinlich, da die Betreiber für diese Zwecke sehr gut vorbereitet sind.

Es gäbe noch die "nukleare Option" eines manipulierten Border Gateway Requests. Dieses Szenario war lange Zeit die denkbarste Option. Die Idee dahinter ist, dass an den Schnittstellen der Netzbetreiber (den Gateways) die Routing-Tabellen neu beschrieben werden. Nachdem es aber in den letzten Jahren immer wieder zu gravierenden Zwischenfällen gekommen ist (z.B. hat der Iran durch seine Abschottung aus Versehen das halbe asiatische Netz lahm gelegt) hat man auch hier mit BGP-Firewalls entgegen gewirkt und diese Lücken geschlossen.

Die einzige denkbare Variante wäre ein massiver paralleler Lastanstieg im Netz, zum Beispiel durch einen IoT-Wurm, so dass auf einen Schlag zig Milliarden Geräte gleichzeitig versuchen so viel Last wie möglich in den Netzen zu verursachen. Das könnte dann tatsächlich für einige Zeit das Internet lahmlegen. Es ist aber nicht ganz trivial auf Milliarden Geräten sowas zu installieren und dann auszunutzen. Aber nicht unmöglich.

Man darf auch nicht vergessen, das Internet ist entstanden aus einer Idee, Computernetze für den Ernstfall eines Atomkrieges ausfallsicher miteinander zu verbinden. Diese Ideen wirken bis heute nach und so finden größere Netzausfälle, über mehrere Netze hinweg heutzutage, trotz des massiv angestiegenen Traffics kaum noch statt."

Ich HOFFE ja mal, dass das stimmt.
Wär ja doof, wenn irgendwo der dritte Weltkrieg ausbräche...
...dass ich dann nicht mehr ins EF käme.

Zum Vergrößern anklicken....

Atomkrieg? Mumpitz. Aber keine Wichsvorlagen aus dem EF wäre wirklich schlimm

Hi,

Mitglied #447650 schrieb:

...und wer garantiert, dass Nord-Korea nicht sofort reagiert?

Zum Vergrößern anklicken....

das Faktum, dass man Raketenabschüsse messen kann, und nur darauf gewartet wird.

Niemandem interessiert es, was Trump sagt. Würden die USA aber eine IK Rakete starten, wären die Europäer, Israelis, Russen, Chinesen, Inder und Pakistani sofort in Bereitschaft!

LG Tom

Nun...ich kann hier natürlich nur das wiedergeben, was Experten für künstliche Intelligenz und/oder Bildbearbeitung sagen.

Die Szene von Tom Hanks und Kennedy hat damals hunderttausende von Dollar gekostet und eine immense, lange Bearbeitungszeit und Rechnerleistung.
Heute macht das jeder halbwegs versierte Laie auf seinem Home-Computer.

Und auch die "Unschärfe" wird bald kein Thema mehr sein...wenn die KI pixelgenau schneiden und angleichen kann.
Momentan wird eventuell noch "grob durch die Pixel geschnitten"...
...aber das ist eventuell nur noch eine Frage von Monaten...allenfalls ein, zwei Jahren (wenn überhaupt)...und du wirst es nicht mehr sehen können.
Momentan ist ein Erkennungsmerkmal NOCH der Lidschlag - aber wie lange noch?

Schlimmstenfalls verlieren die "Social-Media" gänzlich ihre Glaubwürdigkeit. Und aus die Maus.

Dann werden sich auch Präsidenten hüten, sich ihrer zu bedienen.

Hi,

Mitglied #447650 schrieb:

Die Szene von Tom Hanks und Kennedy hat damals hunderttausende von Dollar gekostet und eine immense, lange Bearbeitungszeit und Rechnerleistung.
Heute macht das jeder halbwegs versierte Laie auf seinem Home-Computer.

Zum Vergrößern anklicken....

damals hatte einer der weltschnellsten Supercomputer weniger Ram, weniger Rechenleistung und weniger SSD Kapazität als ein modernes Smartphone ...

Ich glaube mich an einen Artikel in der iX zu erinnern, demnach haben die einen Haufen Alpha Server gehabt auf die die Rechenoperationen verteilt waren.

Man darf die Entwicklung der Technik nicht aus den Augen lassen. Mein aktueller W-Lan Router (TP-Link TL-WDR7500 - 720MHz. Mips 32 CPU, 128MB Ram) ist deutlich leistungsfähiger als ein damaliger PC (486/Pentium, klienher 100MHz., 4MB Ram war viel) und kostet einen Bruchteil ...

Und auch die "Unschärfe" wird bald kein Thema mehr sein...wenn die KI pixelgenau schneiden und angleichen kann.
Momentan wird eventuell noch "grob durch die Pixel geschnitten"...

Zum Vergrößern anklicken....

Nein. Pixel ist die kleinste Einheit, die kann nicht "zerschnitten" werden. Wenn Du zwei Bilder zusammenfügst, haben die nicht die selben Farbwerte, im Übergangsbereich gibt es Abstufungen von einem Farbwert zum nächsten. Nur als Beispiel.

Ein älterer Artikel: Original oder Fälschung? Woran man eine echtes Foto erkennt - tv.ORF.at

LG Tom

Mitglied #469517 schrieb:

Hi,



damals hatte einer der weltschnellsten Supercomputer weniger Ram, weniger Rechenleistung und weniger SSD Kapazität als ein modernes Smartphone ...

Ich glaube mich an einen Artikel in der iX zu erinnern, demnach haben die einen Haufen Alpha Server gehabt auf die die Rechenoperationen verteilt waren.

Man darf die Entwicklung der Technik nicht aus den Augen lassen. Mein aktueller W-Lan Router (TP-Link TL-WDR7500 - 720MHz. Mips 32 CPU, 128MB Ram) ist deutlich leistungsfähiger als ein damaliger PC (486/Pentium, klienher 100MHz., 4MB Ram war viel) und kostet einen Bruchteil ...





Nein. Pixel ist die kleinste Einheit, die kann nicht "zerschnitten" werden. Wenn Du zwei Bilder zusammenfügst, haben die nicht die selben Farbwerte, im Übergangsbereich gibt es Abstufungen von einem Farbwert zum nächsten. Nur als Beispiel.

Ein älterer Artikel: Original oder Fälschung? Woran man eine echtes Foto erkennt - tv.ORF.at

LG Tom

Zum Vergrößern anklicken....

Dass ein Pixel die kleinste Einheit ist, weiß ich natürlich - deshalb hatte ich es in " " gesetzt.
Nichtsdestotrotz glaube ich, dass selbst Lapalien wie Farbangleichung bald kein Problem mehr sein werden.
Wie du selbst schon sagst...etwas mehr Rechnerleistung, etwas mehr Deep learning...


...und all das dürfte kein Thema mehr sein.

Hi,

Mitglied #447650 schrieb:

Nichtsdestotrotz glaube ich, dass selbst Lapalien wie Farbangleichung bald kein Problem mehr sein werden.

Zum Vergrößern anklicken....

ich bin relativ sicher, dass diese zwingende Funktion des Übergangs beim Zusammenfügen immer für Computerprogramme erkennbar sein wird.

Aber wie gesagt, wir werden sehen ...

LG Tom

Sehr spooky und gefährlich, vor allem, wenn man sich einliest in die Materie und ausmalen kann, wie weit die Technologie in 5-10 Jahren fortgeschritten sein wird.
Deepfake-News täuschen alle Sinne – und könnten Kriege auslösen - derStandard.at
Man kann nur hoffen, dass im Gegenzug genauso die technischen Möglichkeiten die Fakes zu erkennen mitwachsen und Manipulationen entsprechend schnell als solche aufzudecken.

Mitglied #469517 schrieb:

Also dass etwas manipuliert wurde, kann man idR. recht sicher sagen.

Zum Vergrößern anklicken....

morphing dieser art kannst immer sofort erkennen, wennst mit verschiedenen filtern drüber fahrst.
wie du richtig anmerkst, ist die aufregung darüber, dass man es mit blossem auge nicht erkennen kann ... die forensik hat damit kein problem (das ist nur im fernsehen bei CSI & co so...)

"Nun arbeiten unterschiedliche Firmen an Apps für iOS und Android, die es leichter machen sollen, solche Fälschungen zu enttarnen. Eine Art Lackmustest für Fotos und Videos. Truepic und Serely heißen die Verfahren, die gerade entwickelt werden. Sie setzen allerdings voraus, dass schon beim Fotografieren oder Filmen diese Technik eingesetzt wird, um die Aufnahmen zu “versiegeln”. So lassen sich dann spätere Manipulationen erkennen. Schon ein Pixel reicht, und der Algorithmus schlägt an."


Was tun gegen Deep-Fakes?

Sicher...man arbeitet daran...
...doch ich vermute mal, nicht völlig grundlos?

Mitglied #447650 schrieb:

Sicher...man arbeitet daran...
...doch ich vermute mal, nicht völlig grundlos?

Zum Vergrößern anklicken....

weniger reisserischen journalismus lesen, mehr leuten, die mit der materie zu tun haben, glauben

wie gesagt ... es reicht, mit kontrasten etc zu spielen, um zu sehen, ob was auf diese art manipuliert wurde oder nicht (und bei bewegungen gibts noch viel mehr "tricks", da reichen ein blick auf einzelne frames schon).

Mitglied #266594 schrieb:

weniger reisserischen journalismus lesen, mehr leuten, die mit der materie zu tun haben, glauben

wie gesagt ... es reicht, mit kontrasten etc zu spielen, um zu sehen, ob was auf diese art manipuliert wurde oder nicht (und bei bewegungen gibts noch viel mehr "tricks", da reichen ein blick auf einzelne frames schon).

Zum Vergrößern anklicken....

Ich will ja gar nicht abstreiten, dass du und andere sich da besser auskennen als ich. Das wäre nicht wirklich schwer, denke ich.

Die eigentliche "Gefahr" ist aber ja wohl doch eher darin zu sehen, dass "Otto Normalverbraucher" bisher annahm, glauben zu können, was zumindest Filmaufnahmen betraf, die er sah.
Von Science Fiction Filmen u.ä. mal abgesehen...

Meinungen werden ja nun über die Masse gemacht...und eben auch manipuliert - weniger über ein paar Experten?