Semestr zimowy 2026/2027

Prowadzący seminarium (UŚ): dr hab. Agnieszka Nowak Brzezińska prof. UŚ, dr hab. Beata Zielosko prof. UŚ

Autor referatu: mgr Bartosz Szóstak (kooperacja dr hab. inż. Rafał Doroz prof. UŚ)

Temat: Kontrfaktyczne wyjaśnienia uwzględniające preferencje użytkownika: od przeszukiwania metodą Monte Carlo do optymalizacji wspomaganej wartościami SHAP

Streszczenie:

Kontrfaktyczne wyjaśnienia są zwykle konstruowane z naciskiem na trafność, bliskość względem obserwacji wejściowej lub rzadkość zmian, jednak takie kryteria nie opisują wprost, czy wskazana alternatywa jest zgodna z preferencjami użytkownika. W podejściu preference-aware punkt ciężkości zostaje przesunięty z poszukiwania najkrótszej zmiany na poszukiwanie zmiany dopuszczalnej, realistycznej i zarazem pożądanej. W pierwszym etapie prac problem ten został ujęty jako zadanie przeszukiwania Monte Carlo sterowanego priorytetami, w którym preferencje definiują zarówno przestrzeń rozwiązań, jak i rozkłady próbkowania oraz końcowy ranking kandydatów. Pozwala to generować kontrfaktyczne wyjaśnienia osiągające zadany cel predykcyjny przy jednoczesnym uprzywilejowaniu zmian lepiej odpowiadających deklarowanym oczekiwaniom użytkownika. Obecny kierunek rozwoju rozszerza tę metodologię o wykorzystanie wartości SHAP jako źródła lokalnej informacji o wpływie cech na decyzję modelu. Rozważane podejście łączy ograniczenia wynikające z preferencji z lokalną aproksymacją zachowania modelu, aby przejść od losowego przeszukiwania przestrzeni rozwiązań do optymalizacji bardziej ukierunkowanej i potencjalnie bardziej precyzyjnej. W szczególności analizowana jest możliwość użycia dekompozycji wkładów cech do wyznaczania obiecujących kierunków modyfikacji, przy zachowaniu warunku osiągnięcia celu predykcyjnego oraz maksymalizacji zgodności z preferencjami. Tak sformułowany problem sytuuje preference-aware counterfactual explanations w szerszym obszarze systemów adaptacyjnych i interakcji człowiek--AI, gdzie istotne pozostaje nie tylko to, czy modelową decyzję da się zmienić, lecz także jakie zmiany są akceptowalne z perspektywy użytkownika. Proponowane rozszerzenie wyznacza kolejne kroki badawcze w kierunku metod hybrydowych, łączących informację objaśniającą z optymalizacją sterowaną preferencjami.

Termin: 2026-10-27, godz. 13.00-13.45

Miejsce: Platforma Teams