SHOOTME Visual Artists

#006 Newsletter SHOOTME AI Labs 🖖 Czy UE rozumie AI?

2 sierpnia zacznie obowiązywać większość przepisów AI Act, unijnego rozporządzenia o sztucznej inteligencji. Artykuł 50 tej regulacji odnosi się do naszej pracy bezpośrednio.

O AI, prawie i szarych strefach kreatywnej pracy pisze Furi Brzozowski, nasz Head of SHOOTME AI Labs.

Czy „zawiera AI” stanie się nowym „może zawierać śladowe ilości orzechów”?

AI Act nie powstał w próżni. Były konsultacje, kolejne drafty, doprecyzowania i próby uporządkowania tematu. Problem w tym, że nawet po tym procesie wiele kluczowych pytań pozostaje bez jednoznacznej odpowiedzi. Branża kreatywna znów staje się miejscem, w którym prawdziwe znaczenie przepisów ujawni się dopiero w praktyce.

Stawiamy serię pytań, które wyrażają nasze wątpliwości i wskazują na luki definicyjne w samym zapisie.

O co tu tak właściwie chodzi?

Idea AI Act opiera się na transparentności: jeśli odbiorca ma do czynienia z AI, powinien o tym wiedzieć. W praktyce obowiązek oznaczania dotyczy tylko określonych rodzajów treści, ale nawet w ich przypadku nie jest jasne, co dokładnie trzeba oznaczyć, kiedy i w jakiej formie.

Gdzie kończy się narzędzie, a zaczyna deepfake?

Co możemy uznać za deepfake?

Content spełniający wszystkie trzy warunki naraz stanowi deepfake i musi zostać oznaczony:

🔗 Obraz, audio albo wideo wygenerowane lub zmanipulowane przez AI
🔗 Przypomina istniejące osoby, przedmioty, miejsca, podmioty albo zdarzenia
🔗 Może niesłusznie zostać uznany za autentyczny lub prawdziwy

To znacznie zawęża rodzaj contentu, który musi zostać oznaczony. Wygenerowany jednorożec nie musi zostać oznaczony, bo przecież nie istnieje, chyba że... Pytania pojawiają się dopiero wtedy, gdy wygenerowany obraz, dźwięk albo wideo zaczyna przypominać coś, co odbiorca może uznać za prawdziwe.

Nie chodzi więc o sam fakt użycia AI, ale o rezultat jego użycia, który kreuje pewne wrażenie u odbiorcy. Czy to nadal widoczna kreacja, czy już obraz udający autentyczny zapis rzeczywistości? Fotorealizm nie jest jeszcze problemem.

Obraz może wyglądać jak fotografia, a nadal pozostawać oczywistą kreacją. Reklama, moda, film i CGI od dawna operują iluzją realności. Samo to, że coś wygląda realistycznie, nie powinno jeszcze automatycznie uruchamiać obowiązku oznaczania, jeżeli taka treść nie wprowadza odbiorców w błąd.

Ważniejsze jest to, czy obraz próbuje zastąpić fakt: czy sugeruje, że dana osoba istnieje, dane zdarzenie miało miejsce albo dana sytuacja została naprawdę zarejestrowana.

Granica przesuwa się przy zaufaniu.

Największe napięcie pojawia się tam, gdzie syntetyczny obraz zaczyna używać elementów, którym odbiorca instynktownie ufa: twarzy, głosu, świadectwa, eksperckiej wypowiedzi, dokumentalnego kadru. Wtedy AI nie jest już tylko narzędziem do tworzenia estetyki, ale może stać się narzędziem produkowania pozoru autentyczności. I to właśnie ten pozór, a nie sama technologia, wydaje się być sednem problemu.

Samo oznaczenie, że materiał zawiera AI, może być potrzebnym sygnałem ostrzegawczym, ale nie zawsze mówi odbiorcy coś konkretnego. Nie wiemy, czy sztuczne jest tło, twarz, głos, produkt, cała scena, czy tylko element postprodukcji. „Zawiera AI” może być formalnie prawdziwe, a jednocześnie kompletnie nieprecyzyjne. Im dokładniej chcielibyśmy to opisać, tym bliżej sytuacji, w której reklama zaczyna przypominać regulamin. Gdzieś między jednym zdaniem a przypisami jak w reklamie farmaceutycznej zaczyna się prawdziwy problem transparentności. Jak mamy balansować pomiędzy regulacjami prawnymi a walorami estetycznymi dzieła?

Czy wyjątek dla sztuki stanie się furtką dla reklamy?

AI Act przewiduje łagodniejsze podejście w zakresie obowiązku oznaczania co do treści artystycznych, twórczych, satyrycznych czy fikcyjnych. I tu pojawia się pytanie: czy kampania komercyjna też może korzystać z tego wyjątku? Reklama od zawsze pożycza język filmu, mody, fotografii i sztuki. Często nie jest prostym komunikatem sprzedażowym, tylko małą formą audiowizualną, z własną estetyką, światem i narracją.

Jeśli jednak AI wyprodukuje obraz, który ma stwarzać pozory autentycznej relacji, opinii klienta, eksperckiej wypowiedzi albo realnego zapisu zdarzenia, trudno będzie argumentować, że mamy do czynienia z oczywistą kreacją artystyczną. A wtedy wyjątek z AI Act po prostu nie zadziała.

Praktyczne pytanie brzmi: czy odbiorca ma realną szansę zrozumieć, że nie patrzy na w pełni autentyczny materiał?

To ważne, bo odbiorcą nie zawsze jest świadomy klient, prawnik albo osoba z branży, tylko szeroka publiczność, także dzieci.

Klauzula artystyczna nie powinna być wytrychem.

Jednocześnie trudno uznać, że każda reklama automatycznie jest utworem artystycznym tylko dlatego, że ma reżysera, stylizację i ładne światło. Kampania komercyjna ma konkretny cel: budować wizerunek marki, sprzedawać produkt, wpływać na decyzje odbiorcy. Dlatego odstępstwo artystyczne powinno raczej dotyczyć form, które są wyraźnie kreacyjne, fikcyjne lub stylizowane, a nie materiałów, które udają dokument, testimonial albo prawdziwe wydarzenie.

Fotorealistyczne AI nie pojawiło się w próżni. Przed nim był Photoshop, CGI, Unreal Engine, deep compositing, retusz, digital doubles i cała historia obrazów, które potrafiły wyglądać jak rzeczywistość, choć nią nie były. AI nie wymyśliło problemu fałszywego obrazu. Raczej obniżyło próg wejścia i przyspieszyło jego produkcję.

Jeżeli problemem jest to, że obraz może udawać rzeczywistość, to dlaczego prawo tak mocno koncentruje się akurat na technologii, a nie na efekcie?

Fotorealistyczne CGI może wprowadzać w błąd tak samo jak AI. Retusz może zmieniać ciała, twarze i sytuacje. Realistyczna scena zbudowana w silniku 3D może udawać dokumentalny zapis tak samo skutecznie jak obraz wygenerowany promptem.

To nie znaczy, że AI nie powinno być regulowane. Ale sama etykieta narzędzia nie rozwiąże problemu dezinformacji. Jeśli obowiązek oznaczenia dotyczy tylko AI, a ten sam efekt da się osiągnąć innymi metodami, powstaje luka: nie oznaczamy tego, co wprowadza w błąd, tylko to, co powstało z użyciem konkretnego narzędzia.

Problem nie polega na tym, że transparentność wobec AI jest niepotrzebna. Problem polega na tym, że przepisy próbują uchwycić bardzo płynny proces twórczy za pomocą pojęć, które same wymagają interpretacji. Gdzie kończy się postprodukcja, a zaczyna manipulacja? Kiedy reklama jest kreacją, a kiedy udaje rzeczywistość? Co dokładnie ma zrozumieć odbiorca i jak wiele da się wyjaśnić, zanim obraz zamieni się w regulamin?

Zamiast skupiać się na tworzeniu, coraz częściej będziemy skupiać się na kreatywnym interpretowaniu prawa. To może realnie spowolnić adaptację AI w branży kreatywnej. Nie dlatego, że marki nagle przestaną widzieć wartość w tej technologii, ale dlatego, że będą bały się ryzyka: niejasnych obowiązków, negatywnego odbioru, konieczności oznaczania kampanii i pytań, na które nie ma jeszcze jednoznacznych odpowiedzi.

Jednocześnie trudno udawać, że takie prawo rozwiąże globalny problem dezinformacji. Content AI nie powstaje wyłącznie w Unii Europejskiej, a internet nie kończy się na jej granicach. Materiały tworzone w USA, Rosji, Chinach czy innych krajach nadal będą krążyć w tych samych globalnych platformach, często poza realnym zasięgiem tych regulacji. W efekcie przepisy mogą bardziej utrudnić pracę tym, którzy działają legalnie i transparentnie, niż zatrzymać tych, którzy od początku działają w złej wierze.

Dlatego nasze stanowisko jest ostrożne: tak, transparentność jest potrzebna. Ale jeśli ma realnie chronić odbiorcę, powinna patrzeć nie tylko na narzędzie, ale na efekt, intencję i kontekst. Inaczej zamiast jasnych zasad dostajemy system płotek, przez które twórcy muszą skakać, żeby w ogóle móc dalej tworzyć.

20 i 21 czerwca w Muzeum Sztuki Nowoczesnej w Warszawie / Museum of Modern Art in Warsaw odbędą się pierwsze pokazy HAŁAS VR, immersyjnej interpretacji powieści HAŁAS Małgorzaty Halber, z Martą Malikowską w roli głównej. Za produkcję odpowiadamy MY! - SHOOTME 🖖

Projekt w reżyserii Krzysztof Grudzinski przyjmuje formę monodramu jeden na jeden w rzeczywistości mieszanej. Łączy teatr, VR, Augmented Reality, język gier wideo, cyfrowy kolaż i instalację audiowizualną.

HAŁAS VR opowiada o przebodźcowaniu, samotności online, relacjach przez ekrany i cyfrowym zmęczeniu. Na początku bohaterka oddaje widzowi swój mózg. Od tej chwili doświadczenie prowadzi nas przez jej perspektywę, rozproszenie, emocje i nadmiar bodźców.

W jednym czasie w doświadczeniu może uczestniczyć 16 osób równolegle.
Wstęp jest bezpłatny, obowiązuje pobranie wejściówki.
20.06
https://lnkd.in/d8vUkz-s
21.06
https://lnkd.in/djzfDrSB

📍Szczególnie zapraszamy 20.06 - w SOBOTĘ!
⏰16.00 -18.00 na rozmowy wokół projektu z udziałem Małgorzaty Halber, Kamy Wojtkiewicz, Marty Malikowskiej, Krzysztofa Grudzińskiego i Marysi Surzyckiej.
Prowadzenie: Dawid Bednarski

Jak usłyszeć siebie w świecie, który nieustannie krzyczy?
Rozmówczynie: Małgorzata Halber, K**a Wojtkiewicz

Rozmowa z twórcami HAŁAS VR
Występują: Marta Malikowska, Krzysztof Grudziński, Marysia Surzycka

___________________________

NA PODSTAWIE POWIEŚCI MAŁGORZATY HALBER ” HAŁAS”

W roli głównej: Marta Malikowska
Reżyseria: Krzysztof Grudziński

Producentka: Marysia Surzycka
Scenariusz: Krystyna Bednarek, Krzysztof Grudziński

Wystąpili: Marta Malikowska, Łukasz Orbitowski, Winii

Producentka kreatywna: Sara Faruque
Kierowniczka produkcji: Natalia Piekut
Asystentka produkcji: Klaudia Cieślak

Producent postprodukcji: Krzysztof Grudziński

Postprodukcja: Damian Karczewski, Kacper Majewski, Olgierd Ruszak, Marta Wieczorek, Yevhenii Bochulia
Programmer: Damian Karczewski
AI Artist: Szymon Brzozowski „Furi” SHOOTME AI Labs

Original music, sound design & SFX: Artur „Ferbi” Kubik
Muzyka do utworu “Córka Lucyfera”: Dominik Strycharski
Autorka tekstu utworu “Córka Lucyfera”: Marta Malikowska
Muzyka utworu Necrosphere: A_GIM Dżeljilji
Music collaboration: Fabian Klimanek

DOP: Yevhenii Bochulia
1st AD: Kuba Gryżewski
Movement director: Joanna Słowik
Scenografia: Marta Wieczorek
Elementy scenografii: wykorzystano obrazy Magdaleny Król z wystawy “Ciche Terytorium”
Kostiumy: Zofia Komasa
Asystent kostiumów: Bartłomiej Bielan
Charakteryzacja: Aleksandra Przyłuska

AC: Bartek Makowski, Kuba Makowski
Dźwięk: Paweł Szygendowski, Kornel Duchaczek
Gaffer: Franciszek Bednarczyk
Oświetlacz: Piotr Machel

Dyżur: Hubert Białek | Dardzin Film
Studio: Stream Online
Sprzęt video: Little Beast
Sprzęt oświetleniowy: Easy Film
Ubezpieczenie: Makonline
Administracja: Dominika Płazińska
Konsultacje prawne: Marta Saładyk

PR i social media: Paulina Pola Litaniuk, Klaudia Cieślak
Fotograf: Paweł Fabjański
Retusz zdjęć: Ola Van
Projekt plakatu: Konrad Kasprzyk

Podziękowania: Anna Litwinska, Jakub Dypczynski, Michał Shootman Majewski, Maja Ajnenkiel, Maja Cieślak, Ania Łukasiewicz, Anna Szylar, Little Beast, Easy Film, Stream Online.

Projekt współfinansowany ze środków CRPK oraz MSN.

Produkcja: SHOOTME

Trafiamy na NOWNESS z filmem naszej produkcji, w reżyserii Marii Słabek i Mateusza Miszczyńskiego 🖖🏻🤍

To subtelna, nakręcona na taśmie 35 mm opowieść o Anastazji i Polinie, siostrach z Białorusi, prowadzona przez moment rozłąki, dorastania i opuszczania domu.

Między dokumentalną obserwacją a poetyckim realizmem twórcy znajdują emocje w prostych gestach, ciszy i niewidzialnej nici, która zostaje mimo odległości.

DUET DIR: Maria Słabek, Mateusz Miszczyński
DOP: Łukasz Łatanik

Executive Producer: Marysia Surzycka, Michał Majewski | SHOOTME
Producent: Sara Faruque
Kierownik produkcji: Natalia Piekut
Asystent produkcji: Alicja Dąbrowska

1AC: Przemysław Twardecki
Focus Puller: Sebastian Obuchowicz
Video: Kuba Opaliński

Gaffer: Peter Laut
Oświetlacz: Olga Dąbrowska

Wsparcie techniczne: Polina Talai

Wystąpiły: Anastazja i Polina Bai

Charakteryzacja & Kostiumy: Dominik Szatkowski
Asystent charakteryzacji & kostiumów: Karolina Żukowska

Scenografia: Agata Dydak
Asystentka scenografii: Karolina Sadłoń

Location manager: Łukasz Matysiewicz

Sprzęt video: Panavision, Little Beast
Sprzęt oświetleniowy: Piramida Film
Wywołanie materiałów: Wytwórnia Filmów Fabularnych i Dokumentalnych

Offline: Mateusz Miszczyński
Kolor: Piotr Sasim
Sound design: Artur Kubik
Muzyka: Upright Music

​Moodboard: Braid Mateusz Miszczynski and Maria Słabek explore girlhood, separation, and coming of age through two Belarusian sisters as one prepares to leave home