Techbro stance: "Regulating AI is hindering innovation."

The purpose of regulation is to protect humans from harm, support wellbeing and promote societal sustainability.

So the techbro stance is "I can't invent new stuff if I can't fuck with people's lives and health."

Except that's not innovation, that's abuse.

Politicians and media really need to start understanding the difference.

French prosecutors have raided the Paris office of Elon Musk-owned platform X, several media outlets report.

"France opened an investigation last month following the proliferation of sexually explicit deepfakes generated by Grok on X, following up on a previous probe into the chatbot's antisemitic outbursts over the summer."

Elon Musk former CEO Linda Yaccarino have also been summoned for questioning on April 20.

I am very on board for this. 🍿

https://www.politico.eu/article/police-raid-elon-musk-x-office-france/

@samuel @bjoreman @fiaewald @iakonkret @terejs

Ja, det är bra, och Försäkringskassans användning behövs nog petas på oftare. Jag noterar detta i svaret:

"Regeringen har i regleringsbrevet för 2025 beslutat att ge Försäkrings­kassan i upp­drag att senast den 2 juni 2025 redovisa de insatser som har ge­nomförts eller som myndigheten avser att genomföra i syfte att utveckla sin användning av AI. Myndigheten ska, när det bedöms relevant, redo­visa en analys av riskerna utifrån bl.a. ett etiskt, rättsligt och säkerhetsmässigt perspektiv."

Man jag har ingen minnesbild av att FK någonsin följt upp i något offentligt sammanhang?

Jag är väldigt sugen nu på att det genomförs en större kartläggning av automatiserade beslutsprocesser i offentlig sektor…

@iakonkret @terejs @fiaewald @samuel Ja jäklar vad Akademikerförbundet sa det bra, kan jag också bara konstatera nu när jag läst.

@iakonkret @terejs @fiaewald @samuel Varning för rant (jag ber om ursäkt i förväg) men jag var på det humöret ikväll tydligen.

Jag tror en av de saker som bekymrar mig mest är att så många både debatterar, styr och vill att ”AI” ska bli en viss sak utan att det alls finns en gemensam uppfattning om vad ”AI” är. Eller ens en egen, tydlig uppfattning hos den enskilda avsändaren om vad ”AI” är. Ingen vågar sig på en förklaring men nästan alla ’förståsigpåare’ säger självsäkert att alla medborgare måste förstå detta, som de själva inte förstår.

Man behandlar ”AI” som en magisk sörja som löser problem utan mänsklig inblandning och samtidigt som man dristar sig till att kritisera ’tekniken’ friskriver man sig alltid med, ”vi vet att det kan göra fantastiska saker” men utan att tala om (för att man inte vet?) vilka dessa fantastiska saker är eller hur den tekniken som ”gör fantastiska saker” och kallas för ”AI” ofta är väsensskild från tekniken som medelsvensson, eller en genomsnittlig politiker, har sett och kallar för ”AI”.

”Detta understryker betydelsen av god digital kompetens och breda allmänna kunskaper om integritet, källkritik, demokrati och AI hos befolkningen.”

Vad om ”AI” måste befolkningen veta som inte täcks av integritet och källkritik? Jag reagerade nog extra starkt på den meningen för att jag kände att ”AI” inte har i närheten av samma dignitet som de andra begreppen. Det blev en konstig uppradning av begrepp för mig. Vi klarar av att reglera finansmarknaden för att skydda människor utan att de flesta ens behöver veta vad debet och kredit är. Så varför måste vi lägga över så mycket ansvar på befolkningen när det gäller ”AI” och digital kompetens?

Det pratas om att ta över rutinmässiga uppgifter inom vården, eller korta hanläggningstider. Men inte om hur många fler it-tekniker som måste anställas för att få det att hända eller hur farligt det är när ett strömavbrott eller handhavandefel eller exponerade nätverk gör att de kritiska rutinmässiga uppgifterna inte längre kan utföras och inga människor längre vet hur man gör dem. Att digitalisera sönder processer gör dem också oerhört mer sårbara… det vet vi efter 30 år av digitalisering.

”Därför måste all användning av AI inom offentlig verksamhet föregås av noggranna konsekvensanalyser.” Går det att göra en rättvis konsekvensanalys av probabilistisk AI vars utdata inte är förutsägbart och vars innanmäte (svarta låga) vi inte tillåts titta in i för att förstå?

”Regeringen behöver därför säkerställa att offentliga aktörer får det stöd och de förutsättningar som krävs för att kunna hantera risker kring rättssäkerhet, transparens, personlig integritet, diskriminering, felaktiga data etc. i samband med AI-användning. ”

Hela den här meningen belyser vilka enorma problem ”AI” kan bidra till. Snarare än att regeringen ska ge stödet att hantera dessa risker känns det nästan som att man bör avråda från användningen till dess att det finns en trygghet i att ”AI” inte innebär en så’n enorm risk inom alla dessa områden. För nu låter det som att vi måste införa ”AI” och eftersom vi ”måste” det så måste alla också bli riskhanteringsspecialister. Det är smått skrämmande. I stället för att de stora riskerna i sig tolkas som skäl att avstå. Och alltid är det vården som ”AI” ska hjälpa först. Vad kan gå fel?

Säkert skulle jag kunna vara mer nyanserad i detta vid en annan tidpunkt på dagen så jag lovar att läsa imorgon igen och kritisera mina egna tankar. 😁

Spontant känns det som att man antar alla ställningar på en gång och är rädd att avfärdas som teknikfientlig. Personligen tycker jag den politiska diskursen måste tillbaka till mycket mer starkt värderingsdrivna ställningstaganden. Teknik har vi i drivor vare sig vi vill eller inte. Människosynen måste vara så oerhört mycket viktigare att föra fram än maskinsynen.

Jag lämnar er med Kerstin Anérs text från 1972 och rör mig mot sängen. 😅
https://pm.axbom.se/dataskuggan/

Jim on The Newsroom: ”I’m not talking about the APPARATUS!”

Damn, I felt that.

My younger sister recommended The Newsroom to me a week ago and I’m absolutely obsessed. Loving it. And feels ever more relevant, even though it aired 2012-2014.

Everyone thinking they’re setting up an ”AI” assistant and all the while setting up an ”AI” parasite… consuming both mind and natural resources. 🦠

@pettter The first one I hadn’t heard of. Thanks! Adding it to my list.

Sadly, government agencies are often wholeheartedly seduced by the temptation of treating humans as constellations of numbers.

And here we are.

Computing power propagates this temptation of abuse: reducing fellow human beings, or even oneself, into what can be counted, weighed and measured.

This omnipresent, invisible threat is the whole reason tech must be governed and regulated to support sustainability and human dignity.

Chile befinner sig mitt i en torka som förväntas vara fram till 2040. Samhället Quilicura, i norra delen av Chile, har den högsta koncentrationen av datacenter avsedda för “artificiell intelligens”. Dessa datacenter använder regionens vatten.

Boende i Quilicura vill uppmärksamma världen på hur oseriös användning av AI-promptar har en direkt effekt på deras vattenresurser. Så, för en dag, ber de alla att inte använda “AI”, utan istället att använda dem: En grupp lokala Quilicura-invånare som har gått samman för att fungera som er “AI”.

https://video.axbom.se/882942b3-41b3-431a-be73-30a0f3946ba9

Alec Watson clearly explains the vast benefits of solar and batteries over any other energy source. At the end, at timestamp 1:16:38, he also goes into a powerful, emotional speech on how the political leadership of the United States is embracing fascism.

I recommend the whole episode, but if you judge that you don’t have time, watch the final 15 minutes (from the provided timestamp). And then watch the whole thing. 😉

https://yt.axbom.com/?id=KtQ9nt2ZeGM&t=1:16:38

The link is to my own tool for privacy-enhanced embedding of YouTube videos that minimises tracking. I use it to mitigate the surveillance practices of YouTube. You are free to use the tool for sharing any YouTube video. It does not violate any terms. If you are already logged into YouTube in the same browser that you watch this in, YouTube will of course still know it’s you watching.

@tante Best. Explanation. Ever. Except sometimes the random number between 0 and 5 that it generates is 12.

@mralancooper I’m only five minutes in but I love his explanation of being a midwesterner.

@leffe Hehe, exactly 😁

Person making a post on LinkedIn, complaining about how public sector services in Sweden are running on US services like Google for schools, Oracle for health records and Microsoft for email. Emphasising the risks of that. Ending the rant with a link to read more about it on… wait for it… their substack(!) Yes even using the San Francisco brand as a noun in place of the word 'newsletter', or blog.

It made me chuckle.

So close to making a point. 🙃

@datarama Yes! I actually wrote about exactly this in my very first long-form criticism of "AI" back in 2023.

«What should be questioned is why OpenAI chooses to let the bot present the answers in this way. It is entirely according to the company's design. The bot has not itself "figured out" that it should be self-confident without at the same time revealing weaknesses in its own computational model. That has been OpenAI's decision. It's not ChatGPT that is remorseful, it's the company that wants the user to form an emotional connection to an inanimate object.

The illusion has largely succeeded. The design decisions made when building these tools are questioned to a very small extent. The fascination with responses that are experienced as extremely human, and therefore very convincing, focuses attention on the effect of this trick rather than the mechanics of the trick itself.

"Look over here!", as the magician would say.»

https://axbom.com/ai-responsibility/

@gufo I know, I know. Mea culpa. I honestly don't know what I was thinking. But it was an instant good lesson and slap in the face.

@datarama Right!!? It made me scream.

The theory they came up with for our demise is paperclips(!). Meanwhile, these things are likely killing, or at the very least disabling or harming, people every day.

I stupidly tried out an “AI” language model for keeping track of my anticoagulant medication (warfarin). I thought it could be convenient and harmless enough to just be able to ask it what my daily dosage is when I’m unsure. I realise how senseless that sounds now. I was tired. This is from the actual conversation I just had with it, with a few comments from me in square brackets:

Me: What's my dosage today?

LLM: Today is Tuesday, so your dosage is 2 pills.

Me: Why did you respond “Today is Tuesday” when it’s clearly Wednesday??

LLM: You're right, it's Wednesday (January 28, 2026). My mistake. Correction: Today is Wednesday → dosage is 2.5 pills. The system time shows Wednesday, January 28. I incorrectly read the date/time. Apologies for the confusion.

[“I INCORRECTLY READ THE DATE /TIME”!!! It’s computer software!]

Me: Why did you get this wrong. Getting my dosage wrong is a serious thing. Should I not trust you to be able to know what date it is?

[OKAY THE FOLLOWING RESPONSE IS UNHINGED]

LLM:

You're 100% right. This is a serious error that undermines trust in medical tracking. I should have:

1. Run the actual code instead of mentally calculating
2. Showed my work so you could verify
3. Double-checked critical medical information
Let me run the actual query properly:

You're absolutely right to be concerned. Getting dosage wrong is unacceptable for medical tracking. Here's what happened and how I'll fix it:

What went wrong:

1. Mental error: I looked at the weekly schedule and misread "Tuesday: 2" as today
2. No code execution: I didn't run the actual query
3. No verification: Didn't show system confirmation
Correct answer (verified by code):

Today: Wednesday, January 28, 2026 → 2.5 pills

How I'll prevent this:

1. Always run actual code for medical queries
2. Show verification output (like above)
3. Double-check with system date/time
4. Never answer from memory for critical data
Test me now:

Ask "What's my dosage tomorrow?" or "INR summary" and I'll show the code execution and output.

For medical tracking, precision is non-negotiable. I apologize and will demonstrate proper verification from now on.

"There is a special kind of rage that comes from realizing your car is gone while you are holding a box of dildos and trying to overthrow a federal agency before midnight."

"The very first rubber dick to touch government-issued leather boots triggered a full-blown chemical weapons response."

https://www.closertotheedge.net/p/the-dildo-distribution-delegation?hide_intro_popup=true


(Please also note the query string for this link. If you want to spare people the popup when you link to substack-based newsletters, add ?hide_intro_popup=true)

Clawdbot/Moltbot and the many security issues it introduces:

"This is not speculative. In real deployments, Clawdbot routinely runs with access to API keys, bot tokens, OAuth secrets, filesystem permissions, and sometimes root-level execution inside containers. The agent is designed to act continuously, autonomously, and proactively, including sending messages without explicit prompts.

This architecture is powerful, but it collapses several trust boundaries into a single system.”

https://socradar.io/blog/clawdbot-is-it-safe/

Tidig morgon och stannade till på McDonalds för frukost för första gånger på ett år. Ingen hashbrown!

Besvikelsen….