Drucken

Bitte loggen sie sich ein oder registrieren sie sich.
1 Stunde 1 Tag 1 Woche 1 Monat Immer
Einloggen mit Benutzername, Passwort und Sitzungslänge

[Owlbear]

VOICE.ai sucht Freiwillige, die ihre Stimme für eine KI Projekt zur Verfügung stellen:  https://www.drachenzwinge.de/forum/index.php?action=post;topic=166659.0 Eine solche KI hat realistische Chancen eine Stimme in Echtzeit in eine andere Stimme zu modulieren, ohne dass dem Hörer die Modulierung auffällt. Im Bereich der (Amateur)-Hörspiele und im Rollenspiel eröffnet diese Technik beeindruckende Möglichkeiten, aber genau wie bei Bild-und Video Modulierung sind Anwendungen  mit schädlichen Absichten genauso Tür und Tor geöffnet. Ich bin mir wirklich nicht sicher, ob ich die Sache unterstützen soll. Als begeisterter Rollenspieler und Spielleiter wäre das schon sehr  grandios mit einem hochwertigen Stimm-Modulierer zu spielen. Auf der anderen Seite wird auch Whats-App & Co. unterstützt und das wird sicher zu einer neuen Generation noch perfiderer Enkel-Trick Anrufe führen. Bin wirklich sehr unentschlossen.

Natürlich könnte man, wie immer in so Fällen damit argumentieren, dass die Technik so oder so kommt, und das eigene Engagement keinen nennenswerten Unterschied macht. Aber aktuell haben die eben noch zu wenige deutsche Stimmen, das heißt es macht eben doch einen Unterschied wer mitmacht und wer nicht,  zumindest mit "Stand der Dinge.".

Mein Drache könnte fast so wie Benedict Cumberbatch klingen: "You think you can deceive me, Barrel-Rider?" Das wäre schon sehr abgefahren. Warum darauf verzichten, nur weil mit der Technik auch Mist gemacht werden kann?
Auf der anderen Seite ist die Vorstellung, dass jemand die aus meiner Stimme errechneten Parameter dazu nutzt alte Leute um ihr Erspartes zu bringen, maximal unschön. Wenn ich versuchen wollte, jemanden am Telefon zu täuschen, dann würde ich erst einmal die Person anrufen, die ich in-personifizieren will und dann schauen, ob ich eine ähnliche Stimme im Modulierer finde. Dann würde ich die Zielperson mit eben dieser ähnlichen Stimme anrufen. Je mehr Stimmen ich zur Auswahl hätte, desto höher wäre die Trefferquote. Die Anwendungsmöglichkeiten im illegalen Bereich sind leider mindestens genauso groß wie die legalen. CEO-Trick, Enkel-Trick, CatFisching, Romance-Scams, Grooming usw. Bei den Video und Bild Deepfakes sind ein paar ganz lustige Sachen rausgekommen und, wie im Internet so üblich, ein Haufen die Persönlichkeitsrechte verletzende Pornographie.

Do or Don't, was meinst ihr?

[Marot]

Schreibe bald noch mehr, aber erst mal eine Richtigstellung. Nicht voice.ai sucht Leute, denen ist das recht egal, was wir hier in Deutschland machen, sondern rollenhoerspiel.de (also in dem Fall konkret ich) sucht Stimmen für das eigene kostenfreie Projekt.

[Nin]

Schreibe bald noch mehr, aber erst mal eine Richtigstellung. Nicht voice.ai sucht Leute, denen ist das recht egal, was wir hier in Deutschland machen, sondern rollenhoerspiel.de (also in dem Fall konkret ich) sucht Stimmen für das eigene kostenfreie Projekt.

Aber die Daten, mit denen die KI trainiert wird, landen doch auf voice.ai - die sind doch nicht lokal auf einem privaten Rechner, oder?

[Marot]

Korrekt. Die Daten sind natürlich im Netz, aber nur die Entwickler, die KI selbst und ich können sie abrufen. Ob das immer so bleibt, kann ich aber natürlich nicht garantieren. Und die Daten helfen, die KI immer besser zu machen. Zum Guten wie zum Schlechten. Von wem die Stimmen sind, wissen die Entwickler und die KI aber nicht, weil das ja sogar ich selbst nicht weiß. Also ich für meinen Teil, habe zum Beispiel keine Ahnung, wer Suna wirklich ist, und voice.ai hat nicht mal diesen Fake-Namen, weil ich dort einen noch mal anderen Namen angegeben habe für ihre Stimme. Aber ja, theoretisch könnten die Entwickler die Stimme ohne meine Zustimmung freigeben und jemand Drittes könnte dann diese Stimme benutzen, um alte Frauen um ihr Erspartes zu betrügen.  Das aber nur, wenn die Entwickler ihre eigene Vereinbarung brechen. Da wäre es für diese betrügerische Person aber leichter und schneller, einfach selbst 15 Minuten etwas einzusprechen. Oder ein Hörbuch 15 Minuten lang hochladen und so eine Stimme zu generieren.

[Chalali]

Interessant was mit Stimmgeneratoren für Möglichkeiten entstehen:

https://www.heise.de/news/Synthetische-Stimme-verschafft-Zugang-zu-Bankdaten-7527666.html

[Chalali]

... und das wird sicher zu einer neuen Generation noch perfiderer Enkel-Trick Anrufe führen. ...

Wie von dir befürchtet geht es damit los:

https://www.heise.de/news/Betrugsmasche-Abzocke-mit-KI-generierter-Stimme-7537847.html 

Das sollte jeder mal seine Eltern/Großeltern usw. erklären, damit sie im Falle eines solchen falschen Anrufes besonnen bleiben und sich erst einmal doppelt absichern bevor man reagiert.