W MevaSearch każdego dnia pracujemy nad tym, aby dostarczać Wam najbezpieczniejszą i najbardziej transparentną wyszukiwarkę na rynku. Nasza misja w której to Wy jesteście klientami, a nie produktem napędza nas do ciągłego poszukiwania innowacji w zakresie prywatności i zarządzania danymi.
Pomimo udanej premiery naszego projektu, nie przestajemy w dalszym rozwoju i pomysłach, dlatego dzisiaj prezentujemy wam nasz pomysł na sztuczną inteligencję.
Projekt TruLogic
Nie jest tajemnicą, że dzisiejsze modele językowe, mimo ogromnej wiedzy, mają jedną istotną wadę, którą jest tendencja do „halucynowania”. Jako wyszukiwarka, która stawia na jakość i bezpieczeństwo, uważnie przyglądamy się temu problemowi.
Projektu TruLogic to koncepcja zaawansowanego silnika weryfikacyjnego, który mógłby stać się naturalnym uzupełnieniem w weryfikowaniu treści generowanych sztucznej inteligencji. Jak to miałoby działać w praktyce?
TruLogic nie ufałby jednej odpowiedzi. System generowałby kilka wariantów informacji, a następnie w czasie rzeczywistym krzyżował je z wiarygodnymi źródłami, tworząc swoisty „audyt” faktów. Projekt zakłada stworzenie bazy wzorców, które pomagają systemowi rozpoznawać mechanizmy, za pomocą których AI najczęściej zmyśla. Dzięki temu TruLogic mógłby wyłapywać błędy, zanim użytkownik w ogóle je przeczyta. Zamiast podawać odpowiedź w ciemno, system punktowałby wygenerowane treści, wskazując, które informacje są w 100% potwierdzone, a które wymagają ostrożności.
Chcemy postawić sprawę jasno: Projekt TruLogic to na ten moment wyłącznie teoretyczna koncepcja i wizja przyszłości. To nasze „laboratorium pomysłów”. Nie obiecujemy wdrożenia tych rozwiązań w najbliższym czasie, ani nie traktujemy ich jako gotowych funkcji w MevaSearch.
Problemy TruLogic
Weryfikacja informacji w czasie rzeczywistym jest nieporównywalnie droższa niż zwykłe generowanie tekstu. Każde zapytanie „TruLogic” wymagałoby wielokrotnego przeszukania sieci, zaawansowanej analizy logicznej i mocy obliczeniowej potrzebnej do wygenerowania wielu wariantów odpowiedzi. Skala kosztów takiego rozwiązania mogłaby sprawić, że usługa stałaby się zbyt droga dla przeciętnego użytkownika.
Istnieje ryzyko, że system zbyt rygorystycznie filtrujący informacje mógłby stać się rodzajem nowoczesnej cenzury lub „bańki”. Jeśli algorytm uznałby jakąś nowatorską, choć prawdziwą teorię za „halucynację”, po prostu by ją odrzucił. Największym zagrożeniem jest to, co nazywamy „zatruwaniem źródeł” (data poisoning). Jeśli złośliwe podmioty (twórcy scamów, farmy fake newsów) zorientują się, że TruLogic sprawdza informacje w określony sposób, będą próbowały manipulować źródłami tak, aby algorytm „uznał” fałszywe treści za zweryfikowane.
Nasze stanowisko
Z tych powodów chcemy być wobec Was całkowicie szczerzy: TruLogic to na razie tylko szkic na naszej tablicy pomysłów. Nie chcemy wypuszczać produktu, który obiecuje „prawdę”, a w rzeczywistości może zostać łatwo oszukany przez scammerów lub ograniczać Wasz dostęp do informacji. Na ten moment priorytetem MevaSearch pozostaje udoskonalanie naszych obecnych narzędzi, takich jak NetKrypton, który realnie wykrywa phishing i zagrożenia, zamiast obietnic „idealnej inteligencji”.
Wierzymy, że w świecie, w którym AI generuje coraz więcej szumu, najcenniejszą wartością nie jest „super-algorytm”, lecz wyszukiwarka, która po prostu nie śledzi Waszych wyszukiwań i nie próbuje manipulować Waszymi poglądami.
