Przejdź do treści głównej
Metodologia

Pewność pomiaru

Pewność pomiaru łączy pokrycie, wierność źródła, powtarzalność, świeżość i walidację. Wartości są wskaźnikami technicznymi, nie gwarancją prawdziwości odpowiedzi.

Pokrycie zapisanych danych Powtarzalność odpowiedzi Jakość danych wejściowych
Wizualizacja dla strony: Pewność pomiaru
Definicja i protokół

Pokrycie zapisanych danych

Pokrycie opiera się na wartości zwróconej przez scoring albo, pomocniczo, na tym, czy istnieją wyniki odpowiedzi. Pusty zbiór otrzymuje wartość zerową.

Liczbę należy czytać razem ze statusem przebiegu, konfiguracją dostawców i liczbą poprawnie zebranych odpowiedzi.

Reguła metodologii

Powtarzalność odpowiedzi

To samo pytanie może prowadzić do różnych odpowiedzi. Dlatego wykonujemy powtórzenia i mierzymy stabilność obserwacji. Duża zmienność obniża pewność pomiaru i zostaje opisana jako właściwość badanego środowiska.

Reguła metodologii

Jakość danych wejściowych

Pipeline zapisuje statusy przebiegu, wykonuje automatyczną kontrolę raportu i może skierować raport do ręcznego QA.

Nie ma jeszcze kompletnej bramy, która odrzuca każdy niepełny odczyt odpowiedzi przed scoringiem. Jakość wymaga kontroli statusów dostawcy i surowych odpowiedzi.

Reguła metodologii

Świeżość przebiegu i historii

Bieżący przebieg ma znacznik czasu, a historia audytów zasila ocenę komponentu zmian. Brak historii obniża pomocniczy wymiar świeżości.

Starsze pojedyncze odpowiedzi nie otrzymują dziś osobno malejącej oceny wraz z wiekiem. Datę pomiaru trzeba uwzględnić podczas interpretacji.

Reguła metodologii

Bezpośredniość komponentu

Komponenty otrzymują status źródła: real, proxy albo declared. Wierność źródła jest również częścią pewności całego przebiegu.

Status nie jest jeszcze pełną metryką każdej pojedynczej odpowiedzi. W szczególności nazwa modelu nie potwierdza pomiaru jego aplikacji konsumenckiej.

Reguła metodologii

Pasma pewności

Pewność pomiaru pokazujemy w czytelnych pasmach: od pełnego zakresu po pomiar istotnie ograniczony. Pasmo informuje, jaką wagę można przypisać wynikowi i jego zmianie. Kryteria są częścią publicznej metodologii.

Reguła metodologii

Niepełny pomiar

Niepełny przebieg może wynikać z braku dostawcy, limitu, odmowy, błędu API albo zbyt małej liczby powtórzeń. Surowe odpowiedzi i logi dostawcy pozwalają ustalić przyczynę.

Do czasu pełnego rozdzielenia błędów od braku marki nie wolno interpretować każdej wartości „absent” jako realnej obserwacji.

Reguła metodologii

Wpływ na interpretację wyniku

Pewność pomiaru zmienia sposób czytania wyniku. Przy wysokiej pewności zmiana kilku punktów może być sygnałem; przy niskiej może mieścić się w naturalnej zmienności. Dlatego każdą zmianę wyniku pokazujemy razem z właściwym pasmem pewności.

Następny krok

Sprawdź wiarygodność wyniku

Pewność pomiaru łączy pokrycie, wierność źródła, powtarzalność, świeżość i walidację. Wartości są wskaźnikami technicznymi, nie gwarancją prawdziwości odpowiedzi.