Schlagwort-Archive: Deepfakes

100.000 kostenlose computergenerierte Portraits: Das Ende der Model-Fotografie?

Die Firma icons8 hat gera­de etwas Bahnbrechendes gemacht: Sie hat 100.000 durch künst­li­che Intelligenz erstell­te Portraits kos­ten­frei zur Nutzung bereit gestellt.

Die künst­li­che Intelligenz brauch­te etwas zum „Trainieren“, um zu erken­nen, wann ein Ergebnis mensch­lich genug aus­sah und wann nicht. Dafür hat die Firma nach eige­nen Angaben inner­halb von drei Jahren 29.000 Portraits von 69 Models aufgenommen.

Die fer­ti­gen com­pu­ter­ge­nerier­ten Fotos wer­den auf der Webseite https://generated.photos/ kos­ten­frei zum Download und zur Nutzung ange­bo­ten im Format 1024x1024 Pixel, also 1 Megapixel. Bei den 100.000 Bildern sind eini­ge dabei, die erkenn­bar „fake“ sind, weil der Computer selt­sa­me Artefakte an komi­schen Stellen gene­riert hat und oft sind bei lan­gen Haaren die Enden falsch, wie wenn man wild in Photoshop mit dem Klonstempel Amok gelau­fen wäre oder das Verflüssigen-​Tool nicht rich­tig beherrscht.

Alles AI-​basierte künst­li­che Gesichter von generated.photos

Das soll aber nicht dar­über hin­weg täu­schen, dass vie­le der Bilder nicht mehr von einem ech­ten Foto zu unter­schei­den sind. Geplant ist in Zukunft sogar eine Art Tool, mit der Nutzer (ver­mut­lich gegen Gebühr) auf Knopfdruck sich selbst Portraits gene­rie­ren und dabei Kriterien wie Geschlecht, Alter, Stimmung, Blickwinkel etc. selbst beein­flus­sen können.

In die­sem Video stellt sich das Projekt kurz selbst vor:

Hier als Beispiel eini­ge Bilder von https://generated.photos, die tat­säch­lich so rea­lis­tisch sind, dass kaum vor­stell­bar ist, dass sie kei­ne Fotos sind (Klicken zum Vergrößern):

Wer eben­falls mal stö­bern will, kann die Webseite https://100k-faces.glitch.me/ auf­ru­fen. Bei jedem neu­en Laden der Seite wird zufäl­lig eins der 100.000 Gesichter gezeigt.

Wie dürfen die Bilder genutzt werden?

Laut der Webseite dür­fen die Bilder für jeg­li­che („wha­te­ver“) Nutzung ver­wen­det wer­den, zum Beispiel für Präsentationen, Projekte, Mock-​Ups, Avatare auf Webseiten, Newsletter, Arbeitsblätter etc., vor­aus­ge­setzt, es wird ein Link auf deren Webseite gesetzt. Konkreter erklärt es der Chefdesigner bei icons8, Konstantin Zhabinskiy hier:

If you plan to use pho­to on your web­site, set a link to Generated Photos on all pages whe­re you use our con­tent. If you use it on most pages, a link in your foo­ter is fine. Desktop and Mobile apps should have a link in the About dia­log or Settings. Also, plea­se cre­dit our work in your App Store or Google Play descrip­ti­on (some­thing like „Photos by Generated Photos“ is fine).“

In den klein­ge­druck­ten Nutzungsbedingungen auf der Seite steht unter Punkt 3.2 jedoch, dass kei­ne „kom­mer­zi­el­le Nutzung“ erlaubt sei und gene­rell vie­le Einschränkungen gel­ten, wie zum Beispiel dass die Lizenz sei­tens der Betreiber jeder­zeit ent­zo­gen wer­den kann und dann jedes Material, egal ob digi­tal oder gedruckt, zer­stört wer­den muss:

Das wider­spricht sich jedoch mit den öffent­li­chen Äußerungen der Firma, wes­halb ich per Email um eine Stellungnahme gebe­ten habe, auf die ich lei­der noch kei­ne Antwort habe.

In deren FAQ wird dar­auf hin­ge­wie­sen, dass das Verfassen von Nutzungsrechten für Produkte künst­li­cher Intelligenz eine Neuheit ist, wes­halb sie sich das Ändern die­ser Nutzungsbedingungen jeder­zeit vor­be­hal­ten. Wenn man kurz dar­über nach­denkt, ist es logisch: Mit wel­chem Recht soll­te jemand das Urheberrecht an Werken bean­spru­chen, die er nicht selbst geschaf­fen hat? Das wird noch Stoff für juris­ti­sche Auseinandersetzungen liefern.

Andere Projekte mit künstlichen Personenbildern

Die Webseite generated.photo ist weder die ein­zi­ge noch die ers­te Seite, die künst­lich erzeug­te Gesichter prä­sen­tiert. So gibt es seit einer Weile die Seite www.thispersondoesnotexist.com, wel­che das glei­che GAN („Generative Adversarial Network“)-Modell als Grundlage wie generated.photo nutzt. Hier eine sehr aus­führ­li­che Erklärung, wie die­se GAN funktionieren.

Eine ande­re Webseite ist www.artificialtalent.co, bei der Modefotos gegen Bezahlung mit künst­lich erzeug­ten Gesichtern „auf­ge­hübscht“ wer­den kön­nen, um mehr Kleidung zu verkaufen.

Eine gro­ße Sammlung sol­cher AI-​basierten Webseiten, nicht nur für Personenbilder, lie­fert die­se Webseite.

Was bedeuten diese Projekt für die Stockfotografie?

Kurzfristig sind sie noch kei­ne Bedrohung für Stockfotografen. Erstens funk­tio­niert die­se Technik aktu­ell nur bei Portraits und die Auflösung ist mit 1 MP etwas beschränkt. Der Ausschuss ist, wie man beim Durchblättern der 100.000 Bilder sehen kann, noch ziem­lich groß, auch wenn erstaun­li­che Ergebnisse dar­un­ter sind. Außerdem ist nur eine pri­va­te Nutzung erlaubt, wes­halb Werbetreibende wei­ter­hin auf Stockmaterial zurück­grei­fen müssen.

Mittelfristig sehe ich jedoch durch­aus die Möglichkeit, dass ein Teil der Nutzung zu den com­pu­ter­ge­nerier­ten Bildern abwan­dert. Erstens sind die­se künst­li­chen Intelligenzen schnell lern­fä­hig, was zu expo­nen­ti­ell bes­ser wer­den­den Ergebnissen und stei­gen­den Bildauflösungen füh­ren soll­te. Die Technik wur­de immer­hin erst 2014 vor­ge­stellt und kann nun schon glaub­wür­di­ge Gesichter generieren.

Außerdem funk­tio­niert die Technik nicht nur bei Menschen, auch Landschaften las­sen sich so digi­tal erzeu­gen, wie die­se inter­ak­ti­ve Demo von Nvidia zeigt. Selbst für Inneneinrichtungen gibt es schon eine Webseite, bei der Leute ein Foto ihrer Wohnung hoch­la­den kön­nen und die AI rich­tet die­se vir­tu­ell neu ein.

Die Gefahr für Stockfotografen besteht dar­in, dass ihre Bilder oft sehr gene­risch und aus­tausch­bar sind, bei­des also Attribute, wel­che per­fekt für com­pu­ter­ge­nerier­te Ansätze sind.

No Model Release, no problem?

Wie bei etli­chen neu­en Technologien zei­gen sich Gefahren lei­der erst, wenn die­se eine Weile im Einsatz sind. Deshalb beto­nen eini­ge Forscher aus die­sem Gebiet, dass die ethi­sche Komponente nicht unter­schätzt wer­den darf. Das heißt im Klartext: Die erzeug­ten Bilder basie­ren auf ech­ten Fotos: Wird die AI nur mit schö­nen, kau­ka­si­schen jun­gen Gesichtern trai­niert, wer­den auch die Ergebnisse schön, jung und weiß sein. Nur wer genü­gend Diversität im Ausgangsmaterial hat, kann die­se auch vom Computer erzeu­gen lassen.

Eine wei­te­re, bis­her nicht erwähn­te Gefahr, sehe ich in den Persönlichkeitsrechten. Klar, die abge­bil­de­ten Personen haben kei­ne Persönlichkeitsrechte. Wer sich eine Weile durch die Beispiele klickt, wird jedoch mer­ken, dass ihm etli­che Gesichter irgend­wie bekannt und ver­traut vor­kom­men. Es kann ja sein, dass der Computer Gesichter gene­riert, die in echt leben­den Menschen wie aus dem Gesicht geschnit­ten aus­se­hen. Sollten die­se Menschen dann nicht das Persönlichkeitsrecht an den AI-​Bildern haben, wenn sie mit denen ver­wech­selt wer­den kön­nen?
Man könn­te den Vergleich zu ein­ei­igen Zwillingen zie­hen: Hat der eine das Recht, dem ande­ren abzu­spre­chen, für bestimm­te Produkte oder Meinungen zu werben?

Generell ist das Missbrauchspotential die­ser Technik sehr hoch, man den­ke nur an aus­ge­dach­te Testimonials, gefälsch­te Social Media Accounts und so wei­ter. Vor allem in Kombination mit ande­ren Techniken wie „Deep Fakes“, bei der Videos Gesichter ande­rer Personen erhal­ten oder Adobe #VoCo, wo Stimmen ande­rer Personen mani­pu­liert wer­den kön­nen, erge­ben sich vie­le Möglichkeiten, die sehr dazu geeig­net sind, das Vertrauen von Menschen in digi­ta­le Inhalte zu unter­gra­ben. Wie so oft sind Pornos Vorreiter die­ser neu­en Technologie: Schon heu­te gibt es eini­ge Webseiten, auf der Gesichter von Berühmtheiten in Pornofilme mon­tiert werden.

Was sagt ihr zu die­ser Entwicklung?