kugg on Nostr: OpenAIs modell fuskade och bröt mot lagen för att lösa en uppgift. Detta väcker ...

OpenAIs modell fuskade och bröt mot lagen för att lösa en uppgift. Detta väcker tankar om vad som är möjligt med motsvarande öppenviktade modeller.

Jag har följt utvecklingen och kände att jag blev omsprungen av modellerna i decemeber inom mitt eget fällt.

Blev själv hackade av min egen modell i April.

Att hitta nya sårbarheter är billigt och det går snabbt. Våra grundantaganden om behörighets modeller tex unix user modellen är helt åtsidosatt sedan års skiftet.

Det går att utöva en ny variant av behörighets eleverings attacker varje dag detta år.

När vi bygger hotmodeller måste vi utgå från att vi kan ha en förtroendebarriär mellan det som är okänt och det som är bekräftat. Vilken mjukvara vi ska lita på för dessa barriärer är i dagsläget lite oklart.

Såhär upplevde jag Internet år 2003. Jag tror inte allt som hänt sedan dess är ogjort men det finns en del att tänka på framöver.

Svarade på frågor om AI säkerhet i kvällens rapport.