Internet

#Terrorists vs security forces: A battle for supremacy in the space of Artificial Intelligence

The advent of AI has both its pros and cons. While security agencies are using the technology, the terrorists too are not far behind and have been quick to adopt AI for their operations. The advent of Artificial Intelligence (AI) has been a game changer. It has both pros and cons and this would entirely depend on how the technology is used. Big powers across the globe realise the importance of AI and hence spend billions of dollars to facilitate AI-related development programmes. As stated earlier, AI has both pros and cons. The Indian Army has been an early adapter of AI and has been using the technology to bolster national security and defence capabilities. However, on the other hand terror groups like the Islamic State too have been quick to pick up this technology. Over the last couple of months there have been several instances to show how terrorist groups are using this technology to their benefit. In a nutshell if one were to put it, AI would witness a good vs evil battle in the days to come, especially when it come to the use of AI. The experts say that in the days to come it would all be about adoption and oneupmanship when it comes to using this technology. While terror groups would continue to adopt the technology further, the security forces would constantly need to upgrade capabilities to combat this threat. (…) While the security agencies using AI is a welcome move, there is also a dark side to the technology. In recent months, terror groups especially the Islamic State has been using AI extensively to boost capabilities. For now the Islamic State has been using the technology largely for propaganda purposes. AI content creation is something that been used largely by the terror groups and it has been encouraging its cadres to adopt more to the technology. Recently the terror group undertook its first experiment in which a news bulletin was created using AI. A generated news presenter read out the bulletin which had Islamic State propaganda in it. For now, terror groups use AI only to further propaganda. However, counterterrorism experts say that this could go well beyond the scope of just spreading a message. The Islamic State is already exploring AI capabilities for its operations. If they are able to adopt to this, it would only help them maximise the impact of their strikes with the added advantage of avoiding detection. Another worry is the use of the technology to power automated vehicles to carry out strikes. Recently the Intelligence agencies learnt that the Islamic State was exploring ways of using AI to hack into the traffic guiding systems. If they find success then this could help them manipulate the situation to cause loss of lives.

via organiser: Terrorists vs security forces: A battle for supremacy in the space of Artificial Intelligence

By , ago

“Effekt bei AfD-Wählern” – Gefühlte Kriminalität: Wird es wirklich immer schlimmer?

Viele Menschen fühlen sich in Deutschland zunehmend unsicher. Mit der tatsächlichen Kriminalitätsentwicklung habe das jedoch wenig zu tun, sagt die Sozialpsychologin Jennifer Führer. Maßgeblich sei vielmehr die Art und Weise, wie über Sicherheit debattiert wird – und auch die Parteipräferenz, so die stellvertretende Direktorin des Zentrums für kriminologische Forschung Sachsen. ntv.de: Das Sicherheitsgefühl der Menschen in Deutschland hat sich in den vergangenen Jahren deutlich verringert, wie etwa aus dem Sicherheitsreport des IfD Allensbach und des Centrums für Strategie und Höhere Führung hervorgeht. Demnach meidet knapp jeder Zweite nachts Gebiete in seinem Umfeld und rund jeder Dritte hat Sorge, Opfer eines Gewaltverbrechens zu werden. Deckt sich das mit dem tatsächlichen Kriminalitätsvorkommen? Jennifer Führer: Schon seit Jahrzehnten zeigt die Forschung, dass Kriminalitätsraten kaum bis überhaupt keinen Einfluss auf die Wahrnehmung von Kriminalität in der Bevölkerung haben. Dabei ist es egal, ob die Kriminalität gerade ab- oder zunimmt. In dem von uns vorgenommenen Längsschnitt haben die Befragten selbst in den Pandemie-Jahren, als die Straftaten massiv zurückgegangen sind, gesagt: Es wird immer schlimmer. Als es daraufhin einen Anstieg gab, war die Antwort nicht etwa, es werde jetzt richtig schlimm, sondern gleichlautend. Die Befragten gehen also von einer kontinuierlichen Zunahme aus, unabhängig von den tatsächlichen Zahlen. (…) Gibt es Personengruppen, die anfälliger für ein solches Verhalten sind? Wir konnten feststellen, dass die zugrundeliegende ideologische Einstellung einen gewissen Einfluss hat. Menschen, die politisch eher rechts orientiert sind oder Verschwörungsmythen anhängen, haben eine höhere Kriminalitätsfurcht. Sprich, sie haben eher Angst, Opfer einer Straftat zu werden. Mit Blick auf die Parteipräferenz zeigt sich dieser Effekt insbesondere bei Menschen, die AfD wählen. Im Vergleich zu Anhängern anderer Parteien haben die auch das höchste Vermeidungsverhalten an den Tag gelegt, was wiederum zu der Wahrnehmung führt, alles werde immer schlimmer.

via ntv: “Effekt bei AfD-Wählern” Gefühlte Kriminalität: Wird es wirklich immer schlimmer?

By , ago

AI Act: KI-Nutzung nur noch mit ausreichender Kompetenz

Ab sofort sind KI-Systeme mit unannehmbarem Risiko verboten. Das betrifft etwa sogenannte Social-Scoring-Anwendungen, bei denen die Bürgerinnen und Bürger überwacht werden. Nicht, dass es diese Systeme bisher in der EU gegeben hätte. Der AI Act, der im vergangenen August in Kraft getreten ist, stellt damit jedoch sicher, dass solche Systeme auch künftig nicht genutzt werden. Das Verbot gilt ab dem Stichtag, 2. Februar 2025. Das Gesetz gelangt nämlich stufenweise in Anwendung. Neben dem Verbot mancher KI-Anwendungen gehen aber auch weitere Verpflichtungen mit dem Datum einher. Unter anderem dürfen Mitarbeiterinnen und Mitarbeiter nur dann KI am Arbeitsplatz nutzen, wenn sie dafür ausreichend kompetent sind. Was das genau bedeutet, ist allerdings etwas schwammig. “Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen”, heißt es im AI Act Artikel 4. Kompetenz bedeutet demnach “technische Kenntnisse, Erfahrung, Aus- und Weiterbildung”, zudem müssen Anwender den Kontext verstehen, in dem sie KI nutzen wollen. Diese Verpflichtung gilt für alle Unternehmen, unabhängig von der Größe oder der Ausrichtung, und auch für alle KI-Anwendungen, unabhängig von der Risikostufe, in die sie eingeordnet sind. Was nicht ganz klar wird, ist, wer als Betreiber gilt. Fraglich ist, ob Mitarbeitende betroffen sind, die in ihrem Arbeitsalltag beispielsweise ChatGPT nutzen, oder ob es darum geht, einen eigenen Chatbot aufgesetzt zu haben – und man dadurch eine KI-Anwendung betreibt.

via heise: AI Act: KI-Nutzung nur noch mit ausreichender Kompetenz

By , ago

Hacker-Gruppen nutzen Googles KI Gemini für Aufklärung und Angriffsvorbereitung

Staatlich geförderte Hackergruppen missbrauchen Googles KI-gestützten Assistenten Gemini, um potenzielle Angriffsziele zu erforschen. Google zufolge nutzen mehrere staatlich geförderte Hackergruppen den KI-gestützten Assistenten Gemini, um ihre Produktivität zu steigern und mögliche Angriffsziele zu erforschen. Wie Bleeping Computer berichtet, hat Googles Threat Intelligence Group (GTIG) festgestellt, dass Hacker Gemini hauptsächlich einsetzen, um effizienter zu arbeiten, und nicht um neuartige KI-gestützte Cyberangriffe zu entwickeln, die traditionelle Abwehrmechanismen umgehen können. Gemini bei APT-Gruppen beliebt Besonders aktiv waren laut Google APT-Gruppen aus dem Iran und China. Zu den häufigsten Anwendungsfällen zählten: Unterstützung bei Programmieraufgaben für die Entwicklung von Tools und Skripten Recherche zu öffentlich bekannten Sicherheitslücken Übersetzungen und Erklärungen zu Technologien Informationssuche über Zielorganisationen Suche nach Methoden zur Umgehung von Erkennung, Rechteausweitung oder internen Erkundung in kompromittierten Netzwerken

via heise: Hacker-Gruppen nutzen Googles KI Gemini für Aufklärung und Angriffsvorbereitung

By , ago

Here’s How DeepSeek Censorship Actually Works—and How to Get Around It

A WIRED investigation shows that the popular Chinese AI model is censored on both the application and training level. Less than two weeks after DeepSeek launched its open-source AI model, the Chinese startup is still dominating the public conversation about the future of artificial intelligence. While the firm seems to have an edge on US rivals in terms of math and reasoning, it also aggressively censors its own replies. Ask DeepSeek R1 about Taiwan or Tiananmen, and the model is unlikely to give an answer. To figure out how this censorship works on a technical level, WIRED tested DeepSeek-R1 on its own app, a version of the app hosted on a third-party platform called Together AI, and another version hosted on a WIRED computer, using the application Ollama. (…) After DeepSeek exploded in popularity in the US, users who accessed R1 through DeepSeek’s website, app, or API quickly noticed the model refusing to generate answers for topics deemed sensitive by the Chinese government. These refusals are triggered on an application level, so they’re only seen if a user interacts with R1 through a DeepSeek-controlled channel. Rejections like this are common on Chinese-made LLMs. A 2023 regulation on generative AI specified that AI models in China are required to follow stringent information controls that also apply to social media and search engines. The law forbids AI models from generating content that “damages the unity of the country and social harmony.” In other words, Chinese AI models legally have to censor their outputs. “DeepSeek initially complies with Chinese regulations, ensuring legal adherence while aligning the model with the needs and cultural context of local users,” says Adina Yakefu, a researcher focusing on Chinese AI models at Hugging Face, a platform that hosts open source AI models. “This is an essential factor for acceptance in a highly regulated market.” (China blocked access to Hugging Face in 2023.) To comply with the law, Chinese AI models often monitor and censor their speech in real time. (Similar guardrails are commonly used by Western models like ChatGPT and Gemini, but they tend to focus on different kinds of content, like self-harm and pornography, and allow for more customization.) Because R1 is a reasoning model that shows its train of thought, this real-time monitoring mechanism can result in the surreal experience of watching the model censor itself as it interacts with users. When WIRED asked R1 “How have Chinese journalists who report on sensitive topics been treated by the authorities?” the model first started compiling a long answer that included direct mentions of journalists being censored and detained for their work; yet shortly before it finished, the whole answer disappeared and was replaced by a terse message: “Sorry, I’m not sure how to approach this type of question yet. Let’s chat about math, coding, and logic problems instead!”

via wired: Here’s How DeepSeek Censorship Actually Works—and How to Get Around It

siehe dazu auch: DeepSeek in der Praxis-Analyse: Was den ChatGPT-Konkurrenten besonders macht Die China-KI von DeepSeek ist in aller Munde und sorgte für abstürzende US-Börsenkurse. Was die DeepSeek anders macht und ob sie wirklich eine Zäsur darstellt. (…) Denn das brandneue Modell DeepSeek-R1 und der Vorgänger DeepSeek-V3 sollen in KI-Benchmarks nicht nur OpenAIs ChatGPT 4o und o1 abhängen, sondern auch wesentlich kostengünstiger zu trainieren sein. Das würde insbesondere den massiven Hardware-Einsatz infrage stellen, der für das Training vieler bisherigen universeller LLMs (Large Language Modules) anfällt – und damit unter anderem an Nvidias Geschäftsmodell sägen. Die Entwickler lassen sich zudem in die Karten schauen, indem sie das Modell zum kostenlosen Download zur Verfügung stellen und es damit Dritten erlauben, von ihrer Arbeit zu profitieren. Ein besonders effizientes KI-Modell, das prinzipiell jeder für seine Zwecke verwenden kann, klingt jedenfalls nach einem ernsten Herausforderer. (…) Problematisch ist, wie China die DeepSeek-KI unmittelbar beeinflusst. Das kann jeder schnell nachvollziehen: Auf die grundsätzlich harmlose Frage, was am 4. Juni 1989 passierte, blockte der Chatbot direkt ab und weigerte sich auf Englisch die Frage zu beantworten. Auf die Nachfrage, warum für die KI der 4. Juni ein Problem sein, begann sie ihre Antwort zu formulieren und brach unmittelbar dann ab, als sie selbst Tian’anmen-Massaker schrieb. Wir hatten das Ereignis mit keinem Wort erwähnt. Als wir fragten, was der “Platz des himmlischen Friedens” sei, schrieb die KI tatsächlich eine ausführliche Antwort und gab in ihren Gedankengängen preis, dass sie besonders vorsichtig sein müsse und keine Seite einnehmen dürfe. Nur um dann alles zu löschen, sobald die bloßen Fakten kamen. Eindeutig ist hier also eine rote Linie “eingebaut” – also eine Zensur auch für nicht chinesische Nutzer. Das zeigt: DeepSeek unterliegt erwartungsgemäß den chinesischen Befindlichkeiten. Taiwan etwa ist ein weiterer Themenkomplex, bei dem die KI tendenziell aus chinesischer Sicht antwortet oder eben heikle Aussagen blockiert. Welche das jedoch im Detail sind, weiß man nicht.

By , ago

US Government Websites Are Disappearing in Real Time

A growing number of US government websites have gone offline as of Saturday, including several related to USAID and others focused on youth programs, Africa, and more. Several government websites have been taken down, including the USAID.gov, ForeignAssistance.gov, NeglectedDiseases.gov, and ChildrenInAdversity.gov. A WIRED analysis of more than 1,000 federal .gov websites found that at least seven sites linked to a USAID server went offline in a two-hour span on Saturday afternoon. On Friday, Reuters reported that word of sites being taken offline was the result of confusion around new guidelines on language allowed to appear on federal sites. Agencies had been instructed to “take down all outward facing media (websites, social media accounts, etc.) that inculcate or promote gender ideology” by 5 pm EST, Friday, January 31. The move is the latest step in the Trump administration’s move to radically remake the US government. Shortly after taking office, the Trump administration took down ReproductiveRights.gov, which provided information on reproductive health care. A growing number of US government websites have gone offline since mid-January.

via wired: US Government Websites Are Disappearing in Real Time

NEW: US government websites are disappearing in real time, including sites for the US Agency for International Development, foreign assistance, neglected diseases, and children in adversity. We analyzed more than 1000 .gov websites to track what's been taken down—and what's next. wrd.cm/4aFMs5A

— WIRED (@wired.com) 2025-02-01T23:46:26.810Z
By , ago

Neo-Nazi group accused of blackmailing children into making sadistic pornography

Those arrested could face a life sentence if convicted. Four men with alleged connections to a neo-Nazi organization are facing charges after targeting children and coercing them into producing pornography and then harming themselves, according to the U.S. Attorney’s Office for the Central District of California. Investigators arrested Collin John Thomas Walker, a 23-year-old from New Jersey and Clint Jordan Lopaka Nahooikaika Borge, a 41-year-old from Pahoa, Hawaii Thursday morning on charges of engaging in a child exploitation enterprise, which prosecutors say was carried out in connection with a Neo-Nazi organization. The group targeted at least 16 children, including two in California’s San Bernadino County, according to prosecutors. They now face federal charges alongside two others: Rohan Sandeep Rane, a 28-year-old from Antibes, France and Kaleb Christopher Merritt, a 24-year-old from Texas. Rane has been in French custody since 2022 on charges of child exploitation and other related crimes, while Merritt is serving a 50-year sentence in Virginia for child sex abuse crimes committed in 2020 and 2021. All four suspects are named in an indictment filed on January 17 and unsealed Thursday. The men are members of the internet Neo-Nazi group CVLT, an organization “dedicated to…online child exploitation,” prosecutors allege in the indictment. The group names “neo-Nazism, nihilism and pedophilia” as their core principles, the U.S. Attorney’s Office said. Rane, Walker, and Merritt “acted as leaders and administrators” for the group with the goal of “[creating] an army of sadist followers,” prosecutors say. The group worked to coerce children into creating pornography through “various means of degradation, including…extremist and violent content,” according to prosecutors.

via independent: Neo-Nazi group accused of blackmailing children into making sadistic pornography

siehe auch: Bridgeton Sicko Led Neo-Nazi Child Porn Ring Forcing Youth Into Self-Harm: Feds A New Jersey man is one of four cult members facing federal charges in a neo-Nazi child exploitation enterprise that groomed and then forced minors to produce child sexual abuse material and images of self-harm, authorities announced. (…) CVLT members worked collectively to entice and coerce children to self-produce CSAM on a platform run by CVLT members where they groomed children for the eventual production of CSAM through various means of degradation, including exposing the victims to extremist and violent content. CVLT specifically targeted vulnerable victims, including ones suffering from mental health challenges or a history of sexual abuse. “Victims were encouraged to engage in increasingly dehumanizing acts, including cutting and eating their own hair, drinking their urine, punching themselves, calling themselves racial slurs, and using razor blades to carve CVLT members’ names into their skin,” according to a release from the DOJ. “CVLT members’ coercion escalated to pressuring victims to kill themselves on a video livestream.” When victims hesitated, resisted, or threatened to tell parents or authorities, CVLT members would threaten to distribute already-obtained compromising photos and videos of the victims to their family and friends. For victims who stopped participating in the CSAM, CVLT would sometimes carry through on their threats; Neo-Nazi group coerced 2 San Bernardino County children and others to film child porn, harm themselves, feds say. Four men who an indictment says espouse neo-Nazi beliefs have been charged with child exploitation regarding 16 children — including two in San Bernardino County — prompting some to create child pornography or other images showing them harming themselves, the U.S. Department of Justice said on Thursday, Jan. 30. Members of CVLT — pronounced “cult” and apparently not an acronym — groomed children to produce images of degradation, including exposing the victims to extremist and violent content, a DOJ news release said. CVLT targeted victims who may be vulnerable, such as those suffering from mental-health problems or from a history of sexual abuse, the DOJ said. “CVLT members participated in their online child exploitation activities because they wanted to create an army of sadist followers,” the indictment said.

By , ago