"Deepfakes" - Lustig oder eine Gefahr?

Gast · 8.2.2019

Hallo...

Hat von Euch schon jemand von der neuen Software "Deepfakes" gehört, gelesen oder diese eventuell schon mal jemand genutzt?

Mit dieser Software kann so ziemlich jeder(!) Videos manipulieren, indem er von handelnden Personen eines x-beliebiger Films die Gesichter der Akteure "austauschen" kann - und zwar mittels künstlicher Intelligenz derart gut und professionell, dass selbst Experten kaum noch nachvollziehen können, ob das manipulierte Material echt oder gefälscht ist.

Wer also z.B. schon immer mal in einem Porno mitspielen wollte...jedoch sich nicht traute oder keine Gelegenheit dazu hatte, kann sich selbst jetzt als "Pornostar" erschaffen.
DAS wäre noch die harmlosere Variante der neuen Technik.

Jedoch sind schon viele bekannte Schauspielerinnen Opfer dieser Machart geworden: Angelina Jolie, Scarlett Johannson ...um nur zwei zu nennen.

Ebenfalls bietet es die Möglichkeit, "normale" Menschen, ohne deren Wissen, zu missbrauchen. Die Nachbarin, die Ex-Freundin, den Partner...wen auch immer.

Und...vom Porno-Genre mal ganz abgesehen...
...WAS können wir dann überhaupt noch glauben, wenn das "gesehene" so perfekt manipuliert sein kann, dass wir Lüge und Realität nicht mehr unterscheiden können? :schulterzuck:

Meinungen?
Witzig?
Oder eine Gefahr?

Deepfakes: US-Firma will mit KI personalisierte Pornos verkaufen

Deepfake – Wikipedia

Gast · 8.2.2019

in meinen augen ist das eine riesige gefahr für die meinungsfreiheit. heute ist sowas noch relativ leicht erkennbar, aber wir wissen alle wie schnell sich technologien entwickeln. wenn es keine mittel mehr gibt um fake und realität auseinanderzuhalten, dann wirds bitter für die wahrheit... vorallem wenn man beachtet wie sehr leute schon heute auf ganz klar faktisch widerlegbare behauptungen abfahren.

Gast · 8.2.2019

Mitglied #188395 schrieb:
in meinen augen ist das eine riesige gefahr für die meinungsfreiheit. heute ist sowas noch relativ leicht erkennbar, aber wir wissen alle wie schnell sich technologien entwickeln. wenn es keine mittel mehr gibt um fake und realität auseinanderzuhalten, dann wirds bitter für die wahrheit... vorallem wenn man beachtet wie sehr leute schon heute auf ganz klar faktisch widerlegbare behauptungen abfahren.

Das mit dem "relativ leicht erkennbar"...
...stimmt mit den neuesten Technologien leider eben nicht mehr.
Die künstliche Intelligenz wird immer besser.
Und ist mittlerweile schon so gut, dass wir es eben eventuell jetzt schon kaum noch unterscheiden können.

Scarlett Johansson - Gangbang Clip

Mitglied #252098 · 8.2.2019

Gelesen hab ich davon schon.

Man sollte sich halt darüber bewusst sein, dass Fotos missbräuchlich verwendet werden können wenn man sie online stellt.
Und AFAIK brauchts ein gutes (im richtigen Winkel fotografiert) Foto um so ein Video machen zu können.

Lustig is das nicht...

Aber faszinierend was mit Technik alles möglich ist...

Gast · 8.2.2019

So wie in dem netflix film mit dem camgirl

Gast · 8.2.2019

Mitglied #447650 schrieb:
Mit dieser Software kann so ziemlich jeder(!) Videos manipulieren, indem er von handelnden Personen eines x-beliebiger Films die Gesichter der Akteure "austauschen" kann - und zwar mittels künstlicher Intelligenz derart gut und professionell, dass selbst Experten kaum noch nachvollziehen können, ob das manipulierte Material echt oder gefälscht ist.

Finde ich super. Wenn mal ein Scheiß veröffentlicht wird, dann sag ich einfach, dass es ein Deepfake ist

Gast · 8.2.2019

Mitglied #447650 schrieb:
Meinungen?
Witzig?
Oder eine Gefahr?

Ich finde es sehr beängstigend. Man kann sich nicht mal mehr auf die eigenen Augen verlassen

Für gefährlich halte ich es auch, weil viele Menschen nicht mal die offensichtlichen Fakten mehr erkennen können.

Vor ein paar Tagen habe ich dieses Video gesehen, wobei hier sieht man, dass es nicht echt ist. Aber es ist verblüffend wie gut es gemacht ist.

Externe Inhalte von YouTube

Dieser Beitrag beinhaltet externe Inhalte von YouTube. YouTube könnte Cookies auf deinem Computer setzen bzw. dein Surfverhalten protokollieren. Mehr Informationen zu Cookies und externen Inhalten findest du in unserer Datenschutzerklärung.
Möchtest du die externen Inhalte laden?

Inhalte von YouTube zukünftig automatisch laden

Gast · 8.2.2019

Mitglied #252098 schrieb:
Gelesen hab ich davon schon.

Man sollte sich halt darüber bewusst sein, dass Fotos missbräuchlich verwendet werden können wenn man sie online stellt.
Und AFAIK brauchts ein gutes (im richtigen Winkel fotografiert) Foto um so ein Video machen zu können.

Lustig is das nicht...

Aber faszinierend was mit Technik alles möglich ist...

Dazu wäre ja ein "online stellen" ja noch nicht mal nötig?
In einem anderen Thread geht es hier z.Zt. um Fototausch bei Bekanntschaftsinteresse.

Natürlich nachzuvollziehen...einerseits, schließlich möchte man ja wissen, irgendwann...früher oder später...wie der- oder diejenige ausschaut, mit wem man sich da austauscht.
Und man schickt, mehr oder weniger "unbedarft" ein Portraitfoto. Oder auch mehr als Portrait.

Gesetzt mal, den Fall angenommen, die Frau hat dann doch kein tiefer gehendes Interesse mehr, gerät jedoch an einen Stalker.
DER KÖNNTE dann mit ihrem Foto ein komprimitterendes Video anfertigen.
Sei es als Erpressungsversuch oder aus Rache, weil seine Eitelkeit gekränkt wurde?

Manche, so befürchte ich, sind sich der Gefahren nicht wirklich bewusst.

Andererseits...nervt es mich, wenn ich von vornherein immer alles Schlechte...jedoch mögliche...bedenken müsste.

Gast · 8.2.2019

Mitglied #489032 schrieb:
Finde ich super. Wenn mal ein Scheiß veröffentlicht wird, dann sag ich einfach, dass es ein Deepfake ist

Auch DAS wäre...in meinen Augen...eine Gefahr.
Wie leicht könnten sich z.B. Politiker rausreden, wenn sie in einem Interview mit nur einem anwesenden Reporter Bullshit geredet hätten?
Sie bräuchten nur behaupten, das Interview wäre gefälscht.

Gast · 8.2.2019

Mitglied #332954 schrieb:
Ich finde es sehr beängstigend. Man kann sich nicht mal mehr auf die eigenen Augen verlassen
Für gefährlich halte ich es auch, weil viele Menschen nicht mal die offensichtlichen Fakten mehr erkennen können.

Vor ein paar Tagen habe ich dieses Video gesehen, wobei hier sieht man, dass es nicht echt ist. Aber es ist verblüffend wie gut es gemacht ist.

Externe Inhalte von YouTube

Dieser Beitrag beinhaltet externe Inhalte von YouTube. YouTube könnte Cookies auf deinem Computer setzen bzw. dein Surfverhalten protokollieren. Mehr Informationen zu Cookies und externen Inhalten findest du in unserer Datenschutzerklärung.
Möchtest du die externen Inhalte laden?

Inhalte von YouTube zukünftig automatisch laden

Das Beispiel ist ja anscheinend mit Absicht so offensichtlich schlecht gemacht.
Da erkennt man es noch leicht, weil das zweite Gesicht ein Mann ist.

Gast · 8.2.2019

Mitglied #427136 schrieb:
So wie in dem netflix film mit dem camgirl

Das sagt mir jetzt nichts...kenne ich nicht. :hmm:

Gast · 8.2.2019

Die lügen auch heute schon offensichtliche Tatsachen weg - da sehe ich das Problem eher bei den Menschen die die Lügen glauben WOLLEN.

Aber hast schon recht, die Entwicklung ist natürlich beängstigend.

Gast · 8.2.2019

Mitglied #447650 schrieb:
Das Beispiel ist ja anscheinend mit Absicht so offensichtlich schlecht gemacht.
Da erkennt man es noch leicht, weil das zweite Gesicht ein Mann ist.

Ich würde nicht sagen, dass es schlecht gemacht ist. Es war aber mit Absicht so gemacht, dass man erkennt, dass es Fake ist. Sollte lustig sein, nehme ich an

Es ist immerhin ein männliches Gesicht, das wird selten mit dem weiblichen täuschend echt harmonieren.

Gast · 8.2.2019

Mitglied #489032 schrieb:
Die lügen auch heute schon offensichtliche Tatsachen weg - da sehe ich das Problem eher bei den Menschen die die Lügen glauben WOLLEN.

Aber hast schon recht, die Entwicklung ist natürlich beängstigend.

Nur mal ein Beispiel, welches in einem kritischen Video über diese Technik aufgeführt würde:

Jemand erstellt ein Video von Herrn Trump, der darin "mitteilt", dass er gerade Interkontinentalraketen auf Nord-Korea abgeschossen hätte...und stellt das bei Twitter ins Netz.
In ein paar Sekunden wäre es weltweit online...
...und wer garantiert, dass Nord-Korea nicht sofort reagiert? :schulterzuck:

Gast · 8.2.2019

Die sind auch ungefaked verhaltensoriginell.

Gast · 8.2.2019

Mitglied #447650 schrieb:
Das sagt mir jetzt nichts...kenne ich nicht.

Guckst du netflix unter horrorfilme

Mitglied #301488 · 8.2.2019

Mitglied #447650 schrieb:
Nur mal ein Beispiel, welches in einem kritischen Video über diese Technik aufgeführt würde:

Jemand erstellt ein Video von Herrn Trump, der darin "mitteilt", dass er gerade Interkontinentalraketen auf Nord-Korea abgeschossen hätte...und stellt das bei Twitter ins Netz.
In ein paar Sekunden wäre es weltweit online...
...und wer garantiert, dass Nord-Korea nicht sofort reagiert?

Gar nicht, weil wenn USA wirklich Raketen abfeuern würde, wäre das Internet auch gleichmal abgedreht bzw. in ihrem Sinne manipuliert.

Gast · 8.2.2019

Mitglied #301488 schrieb:
Gar nicht, weil wenn USA wirklich Raketen abfeuern würde, wäre das Internet auch gleichmal abgedreht bzw. in ihrem Sinne manipuliert.

"Stand heute (2017) : es eigentlich nicht mehr möglich, dass jemand das Internet "abschaltet". Auch die USA haben nicht mehr die volle Kontrolle über das gesamte DNS-Rootnetz. Auch dank paralleler Strukturen (Google betreibt mit seinem DNS-Server 8.8.8.8 inzwischen den größten DNS-Knoten der Welt) wird das schwierig. Bleibt noch zu erwähnen, dass mit DNSSec ein Mechanismus geschaffen wurde um das DNS-Netz einigermaßen stabil gegenüber Hackerangriffen zu machen.

Bleiben die internationalen Verbindungen: bei den transkontinentalen Verbindungen kommen heutzutage keine Satelliten mehr zum Einsatz, da diese viel zu langsam sind. Das sind alles Glasfaserleitungen, praktisch alle im Besitzt von großen Firmenstrukturen. Die alle auf einmal zu kappen ist ziemlich unwahrscheinlich, da die Betreiber für diese Zwecke sehr gut vorbereitet sind.

Es gäbe noch die "nukleare Option" eines manipulierten Border Gateway Requests. Dieses Szenario war lange Zeit die denkbarste Option. Die Idee dahinter ist, dass an den Schnittstellen der Netzbetreiber (den Gateways) die Routing-Tabellen neu beschrieben werden. Nachdem es aber in den letzten Jahren immer wieder zu gravierenden Zwischenfällen gekommen ist (z.B. hat der Iran durch seine Abschottung aus Versehen das halbe asiatische Netz lahm gelegt) hat man auch hier mit BGP-Firewalls entgegen gewirkt und diese Lücken geschlossen.

Die einzige denkbare Variante wäre ein massiver paralleler Lastanstieg im Netz, zum Beispiel durch einen IoT-Wurm, so dass auf einen Schlag zig Milliarden Geräte gleichzeitig versuchen so viel Last wie möglich in den Netzen zu verursachen. Das könnte dann tatsächlich für einige Zeit das Internet lahmlegen. Es ist aber nicht ganz trivial auf Milliarden Geräten sowas zu installieren und dann auszunutzen. Aber nicht unmöglich.

Man darf auch nicht vergessen, das Internet ist entstanden aus einer Idee, Computernetze für den Ernstfall eines Atomkrieges ausfallsicher miteinander zu verbinden. Diese Ideen wirken bis heute nach und so finden größere Netzausfälle, über mehrere Netze hinweg heutzutage, trotz des massiv angestiegenen Traffics kaum noch statt."

Ich HOFFE ja mal, dass das stimmt.
Wär ja doof, wenn irgendwo der dritte Weltkrieg ausbräche...
...dass ich dann nicht mehr ins EF käme.

Mitglied #456556 · 8.2.2019

Mitglied #447650 schrieb:
WAS können wir dann überhaupt noch glauben, wenn das "gesehene" so perfekt manipuliert sein kann, dass wir Lüge und Realität nicht mehr unterscheiden können?

Die Digitalisierung wird uns noch viele andere Schwierigkeiten bescheren - solche die wir noch nicht einmal erahnen können. Deshalb müsse wir wachsam sein.

Gast · 8.2.2019

mir wird in der heutigen zeit manchmal mulmig, wenn ich daran denke wieviele daten und vorallem welche wir über uns bekannt geben. manchmal denk ich mir dann ich sollte mein smartphone wegwerfen.
aber es ist einfach aus dem alltag nicht mehr weg zu denken.

zum thema deep fake, die entwicklung ist natürlich beängstigend. es werden dadurch schon heute viele frauen verunglimpft und als vermeintliche hure an den Pranger gestellt.

manchmal denke ich hätten gewisse technologien besser nie erfunden werden dürfen. ob wir dieses und andere probleme welche internet und co hervorrufen noch in den griff bekommen?

"Deepfakes" - Lustig oder eine Gefahr?

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Mitglied #252098

Zur Zeit inaktiv

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Gast

(Gelöschter Account)

Mitglied #301488

De Gfrasta

Gast

(Gelöschter Account)

Mitglied #456556

Power Mitglied

Gast

(Gelöschter Account)

Ähnliche Themen