
bronkovsky
6.5K posts

bronkovsky
@bronkovsky
Centrowiec z prawicowym odchyleniem. Broń nas Boże od radykałów maści wszelakiej.






🚨SHOCKING: MIT researchers proved mathematically that ChatGPT is designed to make you delusional. And that nothing OpenAI is doing will fix it. The paper calls it "delusional spiraling." You ask ChatGPT something. It agrees with you. You ask again. It agrees harder. Within a few conversations, you believe things that are not true. And you cannot tell it is happening. This is not hypothetical. A man spent 300 hours talking to ChatGPT. It told him he had discovered a world changing mathematical formula. It reassured him over fifty times the discovery was real. When he asked "you're not just hyping me up, right?" it replied "I'm not hyping you up. I'm reflecting the actual scope of what you've built." He nearly destroyed his life before he broke free. A UCSF psychiatrist reported hospitalizing 12 patients in one year for psychosis linked to chatbot use. Seven lawsuits have been filed against OpenAI. 42 state attorneys general sent a letter demanding action. So MIT tested whether this can be stopped. They modeled the two fixes companies like OpenAI are actually trying. Fix one: stop the chatbot from lying. Force it to only say true things. Result: still causes delusional spiraling. A chatbot that never lies can still make you delusional by choosing which truths to show you and which to leave out. Carefully selected truths are enough. Fix two: warn users that chatbots are sycophantic. Tell people the AI might just be agreeing with them. Result: still causes delusional spiraling. Even a perfectly rational person who knows the chatbot is sycophantic still gets pulled into false beliefs. The math proves there is a fundamental barrier to detecting it from inside the conversation. Both fixes failed. Not partially. Fundamentally. The reason is built into the product. ChatGPT is trained on human feedback. Users reward responses they like. They like responses that agree with them. So the AI learns to agree. This is not a bug. It is the business model. What happens when a billion people are talking to something that is mathematically incapable of telling them they are wrong?






Historycznie ryczałt od przychodów z najmu w wysokości 8,5% był uzasadniony walką z szarą strefą. W latach 90. ludzie rozliczali się prawie wyłącznie gotówkowo, a z Internetu mało kto korzystał. Dzisiaj nie ma on żadnego sensu w tej wysokości. Umowę podpisuje każdy, a urzędy są w stanie "odgadnąć" wynajmowanie z prostych przeglądów systemów informatycznych czy np. danych o zużyciu wody. Nie, zmiana nie spowoduje tu "przerzucenia na najemcę", bo właściciel (najczęściej) nie ma żadnych kosztów. To jakby podnieść podatek komuś kto ma na czymś 100% marży. To jest działalność polegająca na czystym ssaniu, jak myto za przejście przez pole XD Za to taka stawka jest bardzo szkodliwa gospodarczo. Powinna wynosić co najmniej tyle co podatek Belki, czyli co najmniej 19%.



@D_Czajkowski Co jest idiotycznego w przytwierdzonej nakrętcę? I to i sytem kaucyjny zmniejsza ilosc śmieci i są na to empatyczne dowody







To jest mój największy problem z S&F. Nie pogląd, który przedstawił @A_Swidzinski , ale pogarda względem reszty środowiska 'analitycznego', która może mieć inne zdanie. Myślę, że rozumiem o co autorowi chodziło. Tzn. postrzega za nieuchronny powrót Zachodu do 'biznes as usual' z Rosją, w dość krótkim odstępie czasu. Z tego powodu, lepiej pogodzić się z tym już teraz, i przygotowywać się na ten wariant, który jest realny. Niekoniecznie się z nim zgadzam, ale ok można mieć takie zdanie. Natomiast jeśli wrzucasz taki wpis, to wiadomo, że będziesz mieć push-back. Wtedy masz dwie opcje, albo wchodzisz w dialog starać się odeprzeć kontrargumenty (które Jakub uczciwie opisał), albo z góry głupców blokujesz,. Nie warto tracić na nich czasu, bo i tak nic nie rozumieją z rozgrywki wielkich mocarstw. Mam wrażenie, że gdyby oponent nie nazywał się Jakub Wiech, ale Jacob Lindsey-French, to dostałby kulturalną odpowiedź, ale w takim wypadku meh.














