Nie pozwól algorytmom rządzić Twoim koszykiem: systemy rekomendacyjne w dobie Omnibusa

TL;DR

The paper argues that the Omnibus Directive leaves recommendation systems unregulated, creating a gap in consumer protection in online shopping. It presents a case study of an Intelligent Recommendation System (ISR) using an atom-based event model and a Correlated Cross-Occurrence (CCO) algorithm to generate personalized product suggestions, highlighting how such systems can be manipulated or biased. The authors propose extensions to Omnibus including ethical audits of recommender systems and explicit disclosure of the criteria used to generate recommendations, akin to transparency in search rankings. They emphasize the need for consumer control, accountability, and ongoing adaptation of regulatory frameworks to address dynamic AI-driven marketing practices, aiming to reduce harm while preserving user experience.

Abstract

The Omnibus Directive is an essential part of the European Union's New Deal for Consumers. The Directive introduces new regulations in trade, including e-commerce, with the main goal being to increase transparency, fairness and consumer protection. The authors critically draw attention to a significant oversight in the Omnibus Directive, namely the lack of consideration of recommendation systems. Recommendation engines can be a source of potentially harmful practices affecting consumers, hence the need for a directive extension. The proposals presented in this article include the introduction of ethical supervision over recommendation systems to minimize the risk of negative effects of their recommendations, as well as a clear explanation of the criteria on which recommendations are made -- similar to search result rankings. -- Dyrektywa Omnibus stanowi istotną część Nowego Ładu dla Konsumentów (ang. \emph{New Deal for Consumers}) Unii Europejskiej. Dyrektywa wprowadza nowe regulacje w handlu, w tym e-commerce, których głównym celem jest zwiększenie przejrzystości, uczciwości i ochrony konsumentów. Autorzy krytycznie zwracają uwagę na istotne zaniedbanie w dyrektywie Omnibus, jakim jest brak uwzględnienia systemów rekomendacyjnych. Silniki rekomendacyjne mogą być źródłem potencjalnie szkodliwych praktyk uderzających w konsumentów, stąd niezbędne jest rozszerzenie dyrektywy. Propozycje przedstawione w niniejszym artykule obejmują wprowadzenie etycznego nadzoru nad systemami rekomendującymi, aby zminimalizować ryzyko negatywnych skutków ich rekomendacji, a także jasne wyjaśnienie kryteriów, na podstawie których dokonywane są rekomendacje -- analogicznie do rankingów wyników wyszukiwania.

Figures (1)

• Figure 1: Przykładowa ramka rekomendacyjna.