Návrh nařízení o odpovědnosti za provoz systémů AI
Návrh nabízí na budoucnost zaměřený (a každé tři roky revidovaný) rámec civilní odpovědnosti za újmu ve formě obecně závazného nařízení. Definuje vysoce rizikovou AI, kterou má být fyzická i virtuální AI, jejíž činnost může poškodit životy, zdraví, tělesnou integritu, majetek a případně významnou nehmotnou újmu vedoucí k prokazatelné ekonomické ztrátě, byť jsou takové technologie prozatím vzácností. Provozovatelé takto rizikových činností by měli dle názoru Parlamentu mít povinnost sjednat adekvátní pojištění, přičemž je třeba se v této oblasti vyvarovat příliš unifikovanému systému s neodpovídajícím krytím i cenou. Vedle vysoce rizikové AI návrh definuje i samotnou „AI“ či termín „autonomní“.
Mezi odpovědné osoby řadí provozovatele (provádějící frontend i backend činnosti), za které mohou být považování v určitých případech i uživatelé. V případě vysoce rizikové AI má jít o objektivní odpovědnost poskytovatele, v ostatních případech založenou na zavinění.
Dokument se vyjadřuje i k otázce posouzení AI jako výrobku ve smyslu Směrnice o odpovědnosti za vadné výrobky (PLD). Parlament opětovně vyzývá Komisi k vyhodnocení případného přetvoření PLD na nařízení a zároveň vyjasnění, zda mají být digitální obsah a digitální služby považovány za výrobek. V případě naplnění definice výrobku systémem AI se má použít PLD k uplatnění nároků vůči backend provozovateli jakožto výrobci.
Navrhuje se dokonce zastropování možné kompenzace ve výši dva miliony eur pro případ úmrtí či zdravotní újmy a jeden milion eur v případě ekonomické škody. Pro tu je stanoven i dolní limit ve výši 500 eur. Uplatnění nároků má být časově omezeno na 10, respektive 30 let od škodní události.
Etický rámec AI
Schválená legislativní iniciativa vyzývá Komisi k vypracování nového rámce, který stanoví etické principy a právní povinnosti při vývoji, spuštění a užívání umělé inteligence, robotů a souvisejících technologií včetně software, algoritmů a dat. V mnohém navazuje na předchozí dokumenty a v nich popsané principy včetně na člověka zaměřené a jím vytvořené AI, bezpečnost, transparentnost, odpovědnost, záruky proti předsudkům a diskriminaci, právo na náhradu újmy, společenskou a environmentální odpovědnost a respekt k soukromí a ochraně dat.
Dokument, podobně jako ostatní, vyzývá k definování technologií AI s vysokou mírou rizika (například samoučící systémy), které by měly podléhat nepřetržitému lidskému dohledu a umožňovat okamžité převzetí kontroly člověkem.
Duševní vlastnictví
Tato zpráva upozorňuje na potřebu evropského efektivního systému práv duševního vlastnictví (IPR) pro úspěšnou konkurenceschopnost EU v oblasti AI. Evropský patentový systém by měl umožnit dostatečnou ochranu inovativního vývoje a zároveň nenarušit jak etické principy EU, tak ani nároky lidských tvůrců. Podle názoru členů Parlamentu by se měly rozlišit vynálezy vytvořené výhradě AI od těch vytvořených za účasti člověka.
Zpráva ovšem zdůrazňuje, že umělé inteligenci by neměla být přiznána právní osobnost, práva k výtvoru duševní činnosti by tedy měla být přiznána výhradně lidem.
