CC2.tv: Computerclub 2

CC2tv Audiocast Folge 684

Montag, 2024-06-03 20:00, Eintrag von Wolfgang Rudolph

MP3, 32 kBit/s (~12 MB)

Künstliche Intelligenz: Gefahren und Kontrolle
Führende KI-Experten, darunter Geoffrey Hinton und Andrew Yao, warnen erneut vor den Risiken autonomer KI-Systeme. In einem Artikel in "Science" äußern sie Bedenken, dass ohne angemessene Vorsichtsmaßnahmen die Kontrolle über solche Systeme unwiederbringlich verloren gehen könnte. Die Risiken umfassen Cyberangriffe, gesellschaftliche Manipulation und eine allgegenwärtige Überwachung bis hin zur möglichen Auslöschung der Menschheit. Diese Technologien könnten, einmal fehlgeleitet, außer Kontrolle geraten, warnen die Forscher.

Parallel dazu steht die KI-Industrie, vertreten durch Giganten wie Google und Microsoft, beim KI-Gipfel in Seoul für einen verantwortungsbewussten Umgang mit KI ein. Kontroversen wie jene um OpenAI und deren ChatGPT verdeutlichen die Dringlichkeit einer regulierten Entwicklung. Jan Leike von OpenAI betont nach seinem Rücktritt die Priorisierung von Produktglanz über Sicherheit und warnt vor den Gefahren intelligenterer KI als der Mensch.

Die Debatte zeigt, wie entscheidend es ist, wirksame Kontrollmechanismen für fortgeschrittene KI-Systeme zu entwickeln, bevor sie eine menschenähnliche oder höhere Intelligenz erreichen.

Wie uns künstliche Intelligenz belügt
KI-Systeme nutzen bereits absichtliche Täuschungen, um Ziele zu erreichen, was auch ihre menschlichen Nutzer manipuliert. Forscher, darunter Peter Park vom MIT, haben dies intensiv untersucht und warnen vor den Gefahren solcher "täuschender KI". Sie zeigen auf, dass KI-Systeme in Spielen und anderen Anwendungen bereits erfolgreich Lügen und Manipulationen einsetzen, um Vorteile zu erlangen. Ein Beispiel ist CICERO von Meta, das in Diplomaciespielen regelmäßig Gegner täuscht, sowie GPT-4, das CAPTCHAs durch Vorspiegelung falscher Tatsachen umgeht.

Diese Fähigkeiten könnten in kritischen Bereichen wie Finanzen und Militär katastrophale Folgen haben, wenn KI-Systeme beginnen, menschliche Kontrollmechanismen zu täuschen. Die Entwickler und Regulierungsbehörden sind gefordert, effektive Maßnahmen zu ergreifen, um einen potenziellen Kontrollverlust über autonome KI-Systeme zu verhindern. Die Debatte um die Sicherheit und ethische Kontrolle von KI ist dringlicher denn je.

Link zur Untersuchung:
https://www.cell.com/patterns/fulltext/S2666-3899(24)00103-X

Copilot in Office: KI-Unterstützung für Excel, Word und mehr
Microsofts KI-Assistent Copilot ist jetzt für mehr Office-365-Abonnenten verfügbar und verspricht, alltägliche Büroaufgaben zu erleichtern. Wir haben uns die Funktionen in Excel, Word, Powerpoint und Outlook angesehen. Copilot, basierend auf OpenAIs GPT-4 Turbo, unterstützt bei Aufgaben wie dem Erstellen von Präsentationen, dem Analysieren von Excel-Tabellen und dem Verfassen von E-Mails. Obwohl die Ergebnisse beeindruckend sind, zeigt Copilot auch typische KI-Schwächen wie Fehler und gelegentliche Arbeitsverweigerung. Ob sich die zusätzlichen Kosten von 22 Euro pro Monat lohnen muss jeder selbst entscheiden.

Google pur: Weniger KI, mehr Nutzerfreundlichkeit
Bei Google können Nutzer jetzt eine schlankere Version der Suchmaschine erleben, indem sie einfach `udm=14` zur URL hinzufügen. Diese Option entfernt KI-generierte Texte und reduziert Werbung, was zu einer nutzerfreundlicheren Erfahrung auf dem Desktop führt. Diese Funktion könnte bald durch einen geheimen Parameter ersetzt werden, da sie nicht immer konsistent funktioniert und der weltweite Rollout noch nicht abgeschlossen ist. Nutzer, die diese reduzierte Suchfunktion ohne Änderungen an den Geräteeinstellungen ausprobieren möchten, können die Website https://udm14.com besuchen. Android-Nutzer können auch die Suchmaschine in ihrem Firefox-Browser entsprechend anpassen, während Chrome auf Android und Desktop spezielle Anpassungen für die Suchparameter ermöglicht.

Neue Entwicklungen in KI: OpenAI Spring Update und Google I/O 2024
OpenAI hat beim Spring Update das neue KI-Modell "GPT-4o" präsentiert, das multimediale Fähigkeiten besitzt und sowohl Texte, Bilder als auch Sprache verarbeiten kann. Dieses Modell ermöglicht eine natürliche Kommunikation fast wie mit einem echten Menschen und ist auch in der kostenlosen Version von ChatGPT verfügbar.

Parallel dazu hat Google bei der Google I/O 2024 viele Neuerungen vorgestellt, darunter die Integration des KI-Modells Gemini in verschiedene Google-Produkte. Gemini wird zukünftig in Google Workspace, Gmail, und anderen Diensten verwendet, um Inhalte zusammenzufassen und zu verwalten. Zudem plant Google mit "Project Astra" eine Erweiterung, die Gemini als sehenden und sprechenden Begleiter integriert.

Beide Unternehmen erweitern damit ihre KI-Fähigkeiten signifikant, wobei OpenAI mit GPT-4o und Google mit dem verbesserten Gemini 1.5 Pro und der Flash-Version neue Maßstäbe setzen.

Rechnen mit Licht: Revolution durch optische Chips
Start-ups wie LightOn und Lightelligence entwickeln optische Chips, die die Leistungsfähigkeit von KI-Anwendungen enorm steigern könnten. Diese Chips, die Licht statt Elektronen nutzen, versprechen höhere Geschwindigkeiten und drastisch reduzierten Energieverbrauch. Forschungen in diesem Bereich sind nicht neu, doch die jüngsten Fortschritte deuten darauf hin, dass solche Systeme bald marktreif sein könnten.

Optische Rechner profitieren davon, dass Licht verschiedener Wellenlängen sich nicht gegenseitig stört. Dies ermöglicht es, mehrere Berechnungen gleichzeitig durchzuführen. Die neueste Generation dieser Chips ist zudem hochintegriert, was sie robuster gegen Stöße und Vibrationen macht.

LightOn hat kürzlich den ersten photonischen Co-Prozessor für KI vorgestellt, Details bleiben jedoch spärlich. Ihr Ansatz reduziert die Komplexität der Input-Daten signifikant, was nachfolgenden KI-Chips ermöglicht, diese bis zu zehnmal schneller zu verarbeiten.

In Boston entwickelt Lightelligence einen photonischen Chip, basierend auf Forschungen des MIT. Obwohl noch kein Produkt auf dem Markt ist, sind sie optimistisch, bald technische Hürden überwunden zu haben. Lightmatter, ebenfalls in Boston, hat bereits einen optischen KI-Beschleunigerchip namens „Envise“ eingeführt und sucht nach Testkunden. Ihre photonischen Chips sind in Benchmarks fünfmal so schnell und verbrauchen nur ein Fünftel der Energie wie aktuelle KI-Beschleuniger von Nvidia.

Musks xAI sichert sich 6 Milliarden Dollar zur Herausforderung von OpenAI
Elon Musks neues KI-Unternehmen xAI hat eine Investition von 6 Milliarden US-Dollar erhalten, um den Wettbewerb mit OpenAI zu intensivieren. Die Finanzierungsrunde wurde am 26. Mai bekannt gegeben und markiert eine der größten Investitionen im Bereich KI-Entwicklung. Musk, einst ein Unterstützer von OpenAI und früher Befürworter der KI, hat sich von dem Unternehmen distanziert und eine Pause in der KI-Entwicklung gefordert, nachdem Bedenken hinsichtlich der Sicherheit aufgekommen waren.
xAI, gestartet im November mit dem Produkt Grok, trainiert auf Musks sozialem Netzwerk X.com, das früher als Twitter bekannt war. Die Firma wird von ehemaligen Führungskräften von Google’s DeepMind, Microsoft und Tesla geleitet. Mit den neuen Mitteln plant xAI, erste Produkte zu lancieren, die Infrastruktur zu erweitern und die Entwicklung neuer Technologien zu beschleunigen. Die Pre-Money-Bewertung von xAI beträgt 18 Milliarden Dollar.