Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Algorithmic Contract Design for AI Markets: Learning, Information Design, and Robustness to Strategic Manipulation

Ziel

Artificial Intelligence (AI) markets, such as outsourced data labelling and model training, are expanding rapidly but face incentive problems. Service providers may reduce effort to cut costs, while the complexity and randomness of machine-learning (ML) outputs make it difficult to verify quality or effort.

While contract theory offers tools to align incentives, a gap remains between theory and practice. Classical models assume that game parameters are commonly known, whereas in reality, much of this information is private. The learning efficiency and computational tractability of finding good contracts under such incomplete information remain largely unexplored. The irregular structures often lead to hardness results, while positive findings are scarce. Furthermore, when learning algorithms are deployed, agents with information advantages may manipulate the process, undermining the reliability of ML in economic interactions.

This project develops an algorithmic framework for contract design with incomplete information, with applications in AI markets. It focuses on two fundamental questions: efficient learning and strategic use of information. Three objectives guide the work: (1) characterizing when optimal contracts are efficiently learnable under realistic conditions; (2) studying how committed information disclosure (information design) shapes contract choices and payoffs; and (3) analyzing how informed agents manipulate a learning principal and designing robust countermeasures.

Combining the applicant’s expertise in algorithmic game theory with the host’s strengths in statistical learning and optimization, the project will advance contract theory along computational, learning, and economic dimensions, develop techniques that extend to general ML theory and Stackelberg games, and contribute to responsible AI markets. It supports Work Program’s priorities on human-centric, trustworthy AI and on strengthening Europe’s competitiveness in the digital transition.

Wissenschaftliches Gebiet (EuroSciVoc)

CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.

Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen

Schlüsselbegriffe

Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).

Programm/Programme

Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.

Thema/Themen

Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.

Finanzierungsplan

Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.

(öffnet in neuem Fenster) HORIZON-MSCA-2025-PF

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

INSTITUT NATIONAL DE RECHERCHE EN INFORMATIQUE ET AUTOMATIQUE
Netto-EU-Beitrag

Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.

€ 226 420,56
Adresse
DOMAINE DE VOLUCEAU ROCQUENCOURT
78153 Le Chesnay Cedex
Frankreich

Auf der Karte ansehen

Aktivitätstyp
Research Organisations
Links
Gesamtkosten

Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.

Keine Daten
Mein Booklet 0 0