Nostr notes by AlgorithmWatch

Bundesinnenminister #Dobrindt will der Polizei und dem Bundesamt ...

2026-05-28T12:23:00+02:00

Bundesinnenminister #Dobrindt will der Polizei und dem Bundesamt für Migration Rechte für KI-basierte Massenüberwachung einräumen. Sogar #Palantir ist dabei nicht ausgeschlossen! Die Gesetze gefährden Versammlungsfreiheit, Privatsphäre und Demokratie.

Helft uns, Dobrindts Überwachungspläne zu stoppen - "Nein" zu Palantir & Co. für Polizei und Behörden!

Unterschreibt unsere #Petition und teilt sie - jede Stimme zählt!
https://weact.campact.de/petitions/stoppt-dobrindts-uberwachungsplane

Ineffizienz und Intransparenz als Leitmotive? 🤔 Vorauss. ...

2026-05-21T12:43:03+02:00

Ineffizienz und Intransparenz als Leitmotive? 🤔

Vorauss. kommende Woche möchte das Kabinett Änderungen am Energieeffizienzgesetz (EnEfG) auf den Weg bringen. Vorgesehen sind:

↘️ eine Senkung der Effizienzstandards für Rechenzentren

🏗️ ein drastischer Rückbau ursprünglich vorgesehener Transparenzvorgaben

Das geht in die völlig falsche Richtung & ist ein Geschenk an BigTech.

Neben unserer Policy-Arbeit wollen wir den Druck auch mit einer Petition erhöhen.

👉 Sign here:
https://weact.campact.de/petitions/klimaschutz-statt-ki-wahn

Schlecht: Das Bundeskabinett hat gerade die Massenüberwachung ...

2026-04-29T12:30:08+02:00

Schlecht: Das Bundeskabinett hat gerade die Massenüberwachung mit Biometrie & KI-Systemen beschlossen.

Gut: Das Parlament kann das noch stoppen! In einer Woche haben wir schon 140.000 Unterschriften gesammelt.

➡️ Hast du schon unterschrieben? 📝https://weact.campact.de/petitions/stoppt-dobrindts-uberwachungsplane?utm_medium=partnerlink&utm_source=aw&utm_campaign=mastodon

Unsere Gesichter, unsere Stimmen, unsere Bewegungen: Alles ...

2026-04-21T08:07:13+02:00

Unsere Gesichter, unsere Stimmen, unsere Bewegungen: Alles könnte nach Palantir-Vorbild analysiert, verknüpft und gespeichert werden.

Die neuen Gesetzespläne von Dobrindt öffnen die Tür für biometrische Massenüberwachung. Schon in einer Woche, am 29. April, werden sie im Bundeskabinett verhandelt.

Wir können das stoppen. Unterschreibe die Petition: https://weact.campact.de/petitions/stoppt-dobrindts-uberwachungsplane?utm_medium=partnerlink&utm_source=aw&utm_campaign=mastodon

Jede Unterschrift zählt!

Sure, we usually do and will remind internally. Thank you for ...

2026-03-12T12:21:42+01:00

In reply to nevent1q…9jrc
_________________________

Sure, we usually do and will remind internally. Thank you for flagging this!

Neuer Anlauf: BKA und Bundespolizei sollen nach Plänen von ...

2026-03-12T12:20:33+01:00

Neuer Anlauf: BKA und Bundespolizei sollen nach Plänen von Innen- und Justizministerium die Möglichkeit erhalten, biometrische Daten mit öffentlich zugänglichen Daten aus dem Internet abzugleichen.

Die Krux: Dazu muss der Staat eine Super-Datenbank für biometrische Merkmale aufbauen oder nutzen. Dort landen dann auch alle veröffentlichten Fotos von Dritten. Das heißt auch: alle Aufnahmen von Kundgebungen oder Demonstrationen.

Ganzes Statement: 👉 https://algorithmwatch.org/de/bmi-riskiert-rechtsbruch-mit-eu-gesetz-neuer-entwurf-fur-biometrie-abgleich-mit-dem-internet-in-arbeit/

Not only can AI-assisted surveillance technology lead to human ...

2026-03-10T08:06:33+01:00

Not only can AI-assisted surveillance technology lead to human rights violations, it also comes with environmentally harmful impacts.

Our new article unpacks the narrative of sustainable border surveillance. Learn more about how the AI Act falls short of effectively regulating the environmental costs of AI: https://algorithmwatch.org/en/empty-promises-on-sustainable-border-ai/

#Frontex, is building an app for people who are voluntarily or ...

2026-02-12T14:04:34+01:00

#Frontex, is building an app for people who are voluntarily or forcibly deported from Europe, as part of its EU Reintegration Programme (#EURP).

The app will come equipped with an ‘AI chatbot’ feature, which allows deportees to learn about the available services within the program. This includes the opening hours of the nearest return counseling centers or the financial incentives to travel back to their country of citizenship.

Read the full article on our website: https://algorithmwatch.org/en/frontex-is-building-an-ai-chatbot-app-to-encourage-repatriations/

Ireland 🇮🇪 has one of the highest concentrations of data ...

2025-12-19T08:03:38+01:00

Ireland 🇮🇪 has one of the highest concentrations of data centers in the world. The expansion has reshaped the grid and deepened fossil fuel use. As 🇪🇺 pushes to triple data center capacity, Ireland offers a warning.

Read our latest investigation with Tech Policy Press 👉: https://algorithmwatch.org/en/ireland-data-center-crisis-eu-sovereignty/

We have no idea what content is most viral on YouTube, Meta, ...

2025-11-27T10:35:57+01:00

We have no idea what content is most viral on YouTube, Meta, TikTok, LinkedIn, or X – because they refuse to share basic data.

On the DSA’s Birthday (Oct 4th) we've led a “mass data access request” along with Mozilla (npub16pr…crsg) and DSA40 Data Access Collaboratory, where a series of ~20 orgs requested daily data on their top 1,000 most-viewed posts in EU Member States. Every single one refused.

Join us in demanding platform transparency: https://www.mozillafoundation.org/en/campaigns/demand-the-data-whats-really-going-viral/

Auf einer gemeinsamen Veranstaltung haben wir – ...

2025-10-15T16:58:00+02:00

Auf einer gemeinsamen Veranstaltung haben wir – [@amnesty_digital_de](https://social.tchncs.de/@amnesty_digital_de ), CCC (npub15qj…3kl0), Freiheitsrechte.org - GFF (npub1ak9…l8u5), Ulrich Kelber und AlgorithmWatch (npub1rq7…2kth) – heute unsere gemeinsame Kritik an den Plänen zur biometrischen Überwachung dargestellt – und mit einem neuen Gutachten untermauert. Das gibt's übrigens u. a. hier: https://algorithmwatch.org/de/gutachten-datenbank-biometrie-gesichtserkennung/

#Discrimination through AI in recruitment is a lose-lose scenario ...

2025-10-06T07:52:39+02:00

#Discrimination through AI in recruitment is a lose-lose scenario that cannot be solved on a technical level alone. ☝️

In order to prevent discrimination by AI-based recruiting systems, we worked with an interdisciplinary European consortium from academia, industry, and civil society (#FINDHR) to develop solutions that counteract this type of discrimination and therefore developed specific recommendations for policymakers: https://findhr.eu/toolkit/policy-makers/

“Hey AI, send Jane Doe a Signal message!” Not a particularly ...

2025-10-04T08:36:38+02:00

“Hey AI, send Jane Doe a Signal message!” Not a particularly good idea – and part of a paradigm shift currently taking place through Agentic AI, as [@Mer__edith](https://mastodon.world/@Mer__edith ) told us.

The EU Digital Services Act is 3 years old! 🎂 But how’s its ...

2025-10-02T08:24:17+02:00

The EU Digital Services Act is 3 years old! 🎂 But how’s its work to regulate online services going…? Here we unpack this question, plus our birthday present 🎁 to the DSA: A “mass data access request” with DSA 40 Data Access Collaboratory and Mozilla (npub16pr…crsg) Foundation: 👉 https://algorithmwatch.org/en/birthday-dsa-reality-check

Wir sind auf der Zielgeraden! Nächste Woche reichen wir unsere ...

2025-09-07T08:30:36+02:00

Wir sind auf der Zielgeraden! Nächste Woche reichen wir unsere Petition und Forderungen ein. Unterstütze uns dabei, auf 50.000 Unterschriften zu kommen!

Unterschreibe unsere Petition auf WeAct: https://weact.campact.de/petitions/pride-und-protest-schutzen

Join us for an exclusive talk with ...

2025-09-05T08:06:22+02:00

Join us for an exclusive talk with [@Mer__edith](https://mastodon.world/@Mer__edith ), President of the Signal Foundation, on reclaiming privacy in the age of AI.

Date: 25 September 2025
Time: 6:30 (CET) | Online

More information on the event and how to participate here: https://algorithmwatch.org/en/exclusive-with-meredith-whittaker/

Moderated by:
Matthias Spielkamp (npub1e55…wwfr) Co-founder and Executive Director, AlgorithmWatch (npub1rq7…2kth) & Maria Exner, Artistic Director, Publix Berlin (npub1ckd…da5s)

🚨 Over 40 NGOs and digital rights experts call on the EU to ...

2025-09-03T12:41:31+02:00

🚨 Over 40 NGOs and digital rights experts call on the EU to stand firm against US threats: https://algorithmwatch.org/en/open-letter-von-der-leyen/

The US government has threatened sanctions if the EU does not weaken its digital laws in favor of American tech companies. In an open letter to #EuropeanCommission President Ursula von der Leyen, we urge the EU Commission to respond decisively to these threats.

Attacks on Europe’s regulatory sovereignty put #democracy and #fundamentalrights at risk.

Non-consensual sexualization tools #NSTs are apps and websites ...

2025-08-27T08:11:56+02:00

Non-consensual sexualization tools #NSTs are apps and websites that generate sexualized images of real people, against their consent. Often called #NudifyApps, they don’t only create fully nude images but can also include non-consensual “undressing” via images in underwear or swimsuits – as seen recently on the X chatbot #Grok.

We need your help to track them down. If you see apps, websites, or accounts that create or spread sexualized deep fakes, report them to us: https://algorithmwatch.org/en/stop-nudifying-deepfakes/

Spanish NGO @npub13fh…9dct recent investigation reveals the ...

2025-08-20T07:47:42+02:00

Spanish NGO Civio (npub13fh…9dct) recent investigation reveals the case of #QuantusSkin, an AI system for early detection of skin cancer. The Basque Health Service, Osakidetza, plans to roll it out in 2025, promising faster diagnoses.

But the reality is alarming: Quantus Skin misses nearly 1 in 3 melanoma cases, and was trained almost entirely on images of white patients. For people with darker skin, that means even less accuracy, delayed treatment, and a higher risk of deadly outcomes.

The industrial revolution not only produced technical innovation, ...

2025-08-09T09:20:02+02:00

The industrial revolution not only produced technical innovation, but also very specific working conditions and social disruption. The current “AI revolution” seems to be following a similar path. Our fellows' story “The AI Revolution Comes With the Exploitation of Gig Workers ” is a hot-off-the-press piece about working conditions in a rapidly growing economic sector.

Today in the wochentaz taz (npub14na…rwkr) or here:
🇬🇧 https://algorithmwatch.org/en/ai-revolution-exploitation-gig-workers/
🇩🇪 https://algorithmwatch.org/de/die-ki-revolution-frisst-ihre-gigworker/

Innenminister Dobrindt (CSU) sorgt mit seinem Engagement für den ...

2025-08-07T10:00:14+02:00

Innenminister Dobrindt (CSU) sorgt mit seinem Engagement für den Einsatz von Palantir für breite Kritik. Weitgehend unbeachtet bleibt derweil sein Gesetzentwurf für die Neuregelung biometrischer Fernüberwachung.

Nach diesen Vorschlägen sollen unser aller Gesichter bzw. deren biometrischen Merkmale in einer polizeilichen Datenbank aufgeführt werden, ohne dass ein Verdacht vorliegen muss. Das wäre aus unserer Sicht faktisch ein Über-Bord-Werfen der Unschuldsvermutung. https://algorithmwatch.org/de/biometrische-uberwachung-rechtsbruchen/

Unser Recht auf Protest und Meinungsfreiheit muss verteidigt ...

2025-08-05T10:30:32+02:00

Unser Recht auf Protest und Meinungsfreiheit muss verteidigt werden. Egal ob bei einer Pride, bei Klimaprotesten oder einem Streik - Gesichtserkennung darf nicht dazu eingesetzt werden, Menschen einzuschüchtern und zu kriminalisieren.

Unterstütze unsere Forderungen und unterschreibe unsere Petition auf WeAct: https://weact.campact.de/petitions/pride-und-protest-schutzen

The data center industry has been successfully selling the idea ...

2025-07-25T08:16:55+02:00

The data center industry has been successfully selling the idea that they fuel economic growth and create wealth. The narrative has spread globally from the desert lands of Mexico and Chile to rural and industrial regions in Romania or the Netherlands, and also financial hubs like Frankfurt. But are these promises being kept? Our Fellows Raluca Besliu, Aniket Narawad and Anna Toniolo investigated this question in four European countries. Read their findings here:

👉 https://algorithmwatch.org/en/infrastructure-intrusion-conflict-data-center/

Der Digitalausschuss des Bundestags soll nicht mehr öffentlich ...

2025-07-10T14:30:33+02:00

Der Digitalausschuss des Bundestags soll nicht mehr öffentlich tagen. Diese Entwicklung ist ein Rückschritt, den wir scharf kritisieren.

In einem offenen Brief wenden sich über 20 Organisationen aus der Zivilgesellschaft an den Vorsitzenden des Ausschusses für Digitales und Staatsmodernisierung, Hansjörg Durz (CDU/CSU), sowie an die Obleute aller demokratischen Fraktionen: https://algorithmwatch.org/de/mut-zu-transparenz/

Mitwirkung braucht Transparenz.
https://algorithmwatch.org/de/mut-zu-transparenz/

Fellowship opportunity coming up! 📢 For a fifth time, ...

2025-07-10T08:01:27+02:00

Fellowship opportunity coming up! 📢

For a fifth time, #AlgorithmWatch is looking for new Algorithmic Accountability Reporting fellows. Apply now if you have research ideas concerning the relation between Artificial Intelligence and power and its consequences.

Application deadline: 15 September 2025 23:59 CET

👉 https://algorithmwatch.org/en/open-call-algorithmwatch-fellowship/

Our joint petition against biometric surveillance of the #Pride ...

2025-06-27T08:41:09+02:00

Our joint petition against biometric surveillance of the #Pride :progress_pride: in #Budapest is also supported by Liberties.EU (npub16lj…75qg). Eva Simon (npub1w59…d50n) explains, why.

🖊️ Sign the petition to support an enforcement of the EU AI Act & an end to face recognition in public spaces:
👉 https://algorithmwatch.org/sign

@npub1x73…mg0r from @npub1w4r…8cxz on point about biometric ...

2025-06-26T10:07:02+02:00

Ella Jakubowska (npub1x73…mg0r) from EDRi (npub1w4r…8cxz) on point about biometric identification and the #budapestpride:

In our joint petition we demand:
➡️ an enforcement of the EU AI Act &
➡️ an end to face recognition in public spaces.

Sign up here 👉 https://algorithmwatch.org/sign

On 28 June, Pride parade :progress_pride: will take place in ...

2025-06-25T09:56:41+02:00

On 28 June, Pride parade :progress_pride: will take place in Budapest. The police is, by local laws, allowed to use face recognition systems even for minor “offenses”, which includes attending the Pride.

This form of mass surveillance leads to a decline of our fundamental rights ⚠️

Today, AlgorithmWatch (npub1rq7…2kth), EDRi (npub1w4r…8cxz), ECNL (npub1gqy…gvf8), HCLU & Liberties launched a petition. We demand:
1️⃣ an enforcement of the EU AI Act &
2️⃣ an end to face recognition in public spaces.

Sign up here 👉 https://algorithmwatch.org/sign

Today, we will submit expert input to the EU on systemic risks ...

2025-04-07T17:16:46+02:00

Today, we will submit expert input to the EU on systemic risks stemming from online platforms and search engines. We argue risks come not just from technology, but also (1) the attitudes of companies and (2) lack of transparency around enforcement. Read our full response here: https://t1p.de/uoc2y

DIE ZEIT berichtet über das von @npub1srt…j9ls initiierte und ...

2025-03-04T09:55:09+01:00

DIE ZEIT berichtet über das von Germanwatch (npub1srt…j9ls) initiierte und von uns und über 75 anderen Organisationen unterstützte Schreiben anlässlich der Sondierungen: https://www.zeit.de/wirtschaft/2025-03/regulierung-online-plattformen-union-spd #savesocial

While #AI is accelerating at an unprecedented scale, so is the ...

2025-02-05T15:06:01+01:00

While #AI is accelerating at an unprecedented scale, so is the #ClimateCrisis. 2024 was the first year the 1.5°C #GlobalWarming limit was surpassed for the entire year. Yet, AI is being hailed as a "climate solution" while running on #FossilFuels, draining water reserves, and intensifying environmental harms.

A global coalition is calling for urgent action to bring AI in line with planetary boundaries! We, the signatories, are demanding accountability and climate action: https://greenscreen.network/en/blog/within-bounds-limiting-ai-environmental-impact/

Join Our Team at AlgorithmWatch! Are you eager to work in a ...

2025-02-03T08:16:02+01:00

Join Our Team at AlgorithmWatch! Are you eager to work in a meaningful, impactful environment and take on key responsibilities? We currently have two exciting positions open, and we’d love to hear from you:
💼 Senior Finance Manager (24–30 hours/week)
💻 Senior IT Project Manager (20–25 hours/week)

📍 Location: Berlin | 🗓️ Start: ASAP | 🕛 Application deadline: February 24, 2025

Apply now:

https://algorithmwatch.org/en/jobs/

The EU’s #AIAct prohibitions are now in effect! But gaps ...

2025-02-02T08:19:41+01:00

The EU’s #AIAct prohibitions are now in effect! But gaps remain. Learn more: https://algorithmwatch.org/en/ai-act-prohibitions-february-2025/

🚫 Now banned in the EU: #ManipulativeAI, AI that exploits people's vulnerabilities, #SocialScoring, #Scraping of facial images on the internet, Live #FaceRecognition in Public Spaces. Others are partially banned, like #PredictivePolicing, #EmotionRecognition, and more.

If a banned AI system is used against you, you have the right to report it. In Germany, contact Bundesnetzagentur (npub1scx…wur3)

The EU's #AIAct experts consultation on the definition of an ...

2025-01-16T14:06:02+01:00

The EU's #AIAct experts consultation on the definition of an AI system and on prohibited AI practices closed on Dec 11. But loopholes still threaten #FundamentalRights.

The #AIActCivilSociety and the #ProtectNotSurveil coalitions demand guidelines that ban #SocialScoring, #BiometricSurveillance, and other harmful practices. We call on the AI Office to ensure the upcoming guidelines will provide a fundamental rights-based enforcement of the AI Act.

👉 https://algorithmwatch.org/en/statement-commission-guidelines-ai-act/

The EU is testing AI systems for border control - but many of ...

2024-11-27T11:17:22+01:00

The EU is testing AI systems for border control - but many of these projects are highly discriminatory, lack transparency and are prone to abuse. At AlgorithmWatch, we have compiled 24 of these projects into a database – and are now making them available to the media and the scientific community:
https://algorithmwatch.org/en/automation-on-the-move/

Over the past 18 months, we’ve taken a closer look and analyzed what lies behind the EU projects that test and deploy AI for border control.

Heute hat der Bundestag für das sogenannte ...

2024-10-18T16:44:53+02:00

Heute hat der Bundestag für das sogenannte “Sicherheitspaket” gestimmt. Was zunächst wie ein beispielloser Eingriff in unsere Grundrechte aussah, der im Eilverfahren durchgewinkt werden sollte, wurde vorerst in Teilen durch den Bundesrat gestoppt – allerdings nicht aus den richtigen Gründen. Dem Bundesrat gehen die Befugnisse nicht weit genug.

Wir sagen #GesichtserkennungStoppen!

In seinem Gastbeitrag für ...

2024-10-08T11:14:53+02:00

In seinem Gastbeitrag für https://netzpolitik.org/2024/sicherheitspaket-wir-muessen-unsere-freiheit-nutzen-um-sie-zu-verteidigen/ fragt Matthias Spielkamp von AlgorithmWatch (npub1rq7…2kth), wieso immer mehr Menschen die Argumentation akzeptieren, dass KI-gestützte Überwachungstechnologien notwendig seien, um sicher zu leben.

Wie weit darf die Verteidigung einer vermeintlichen Sicherheit gehen? Warum wird #Gesichtserkennung zunehmend akzeptiert, während Maßnahmen wie Ausgangssperren auf Widerstand stoßen? Welche Freiheiten riskieren wir, wenn Überwachung immer weiter ausgebaut wird?

Harald Lesch zeigt in der aktuellen Sendung "Terra X" ...

2024-09-24T11:51:35+02:00

Harald Lesch zeigt in der aktuellen Sendung "Terra X" sehr gut auf, welche Probleme es mit #KI heute gibt – und das nicht nur im Bereich der #Überwachung. Von enormem Energieverbrauch über Missbrauchsgefahren bis hin zu fehlerhaften Systemen: Es wird deutlich, dass wir eine unabhängige Kontrolle brauchen, auch aus der Perspektive der Zivilgesellschaft. Genau hier setzen wir bei AlgorithmWatch (npub1rq7…2kth) an. 🗣

https://www.zdf.de/dokumentation/terra-x-harald-lesch/und-wie-ki-uns-ueberwacht-100.html

#Sicherheitspaket #GesichtserkennungStoppen #Unsicherheitspaket

Jetzt beginnt die öffentliche Anhörung zu dem ...

2024-09-23T12:01:13+02:00

Jetzt beginnt die öffentliche Anhörung zu dem #Unsicherheitspaket mit dem die Bundesregierung das Asylrecht weiter verschärfen und massenhafte biometrische Überwachung einführen will.

Gemeinsam mit 20 Organisationen haben wir einen offenen Brief veröffentlicht und fordern die Abgeordneten des Bundestags dazu auf, sich dem Aktionismus der Ampel-Koalition entgegenzustellen, #Grundechte zu schützen und sich gegen jede Form der biometrischen Fernidentifizierung einzusetzen.

https://d-64.org/haltung-zeigen/

Biometrische Erkennungstechnologien machen viele Fehler: ...

2024-09-21T08:55:11+02:00

Biometrische Erkennungstechnologien machen viele Fehler: insbesondere bei vulnerablen Gruppen. Sie halten Menschen für gefährlich, obwohl sie es nicht sind - so werden People of Color überproportional häufig in polizeiliche Kontrollen verwickelt. KI-basierte Überwachungstechnologien verstärken somit Racial Profiling und Dirkiminierung.

👉 Schickt noch heute einen Appell an eure Abgeordneten – ganz einfach per Mail! ➡️ ➡️ ➡️ https://gesichtserkennung-stoppen.de/action.html#was-kann-ich-tun

#GesichtserkennungStoppen

Als Teil des Bündnisses #GesichtserkennungStoppen fordern wir ...

2024-09-20T14:57:37+02:00

Als Teil des Bündnisses #GesichtserkennungStoppen fordern wir die komplette Streichung der geplanten biometrischen Überwachungsbefugnisse im #Unsicherheitspaket der Bundesregierung. Warum? Das erklären wir in unserer Stellungnahme.

Am kommenden Montag, den 23. September, wird das "Sicherheitspaket" öffentlich angehört. Wir fordern: Stoppt die biometrische #Massenüberwachung!

Unsere Stellungnahme in voller Länge: https://algorithmwatch.org/de/stellungnahme-sicherheitspaket/

#BanRBI #Sicherheitspaket

Das sog. „Sicherheitspaket“ der Bundesregierung soll ...

2024-09-16T16:57:55+02:00

Das sog. „Sicherheitspaket“ der Bundesregierung soll Ermittlungs- und Migrationsbehörden mehr Befugnisse geben – darunter den Abgleich biometrischer Daten nicht nur mit polizeilichen Datenbanken, sondern auch mit Informationen aus dem gesamten Internet, inkl. sozialer Medien.

Dabei fallen Begriffe, deren Bedeutung oft unklar bleibt. In den kommenden Tagen wollen wir deshalb Begriffe rund um das Thema #Gesichtserkennung und #Überwachungspaket unter die Lupe nehmen:

#GesichtserkennungStoppen