Technologický přehled 2023/10
Výběr zajímavých událostí, názorů a dalších novinek z oblasti technologického vývoje, digitalizace, egovernmentu, umělé inteligence, kybernetické bezpečnosti, robotiky a příbuzných témat.
Odmítnutí chat control v Evropském parlamentu
Kontroverzní návrh nařízení pro stanovení pravidel pro předcházení pohlavnímu zneužívání dětí a boj proti němu, známý také jako “chat control”, narazil na odmítavý postoj Evropského parlamentu k plošnému šmírování komunikace, které by nařízení umožnilo. Výbor pro občanské svobody, spravedlnost a vnitřní věci podpořil ochranu koncového šifrování a skenování soukromé komunikace doporučil pouze v konkrétních případech nařízených soudem.
Zdroj:
Zavádění předplatného na velkých sociálních sítích může podpořit alternativy
Nová úroveň předplatného na X (Twitter) a placené verze Faceebooku a Instagramu jsou zcela nevhodným způsobem, jak vydělávat na běžných sociálních interakcích uživatelů velkých platforem. Široce neoblíbené kroky, jakými jsou právě zavádění různých úrovní předplatného nebo přehlcení velkých sociálních sítí reklamami a zneužívání osobních údajů pro marketingové účely, mohou uživatele velkých sítí přesvědčit k vyzkoušení otevřených alternativ, jako je například Mastodon.
Zdroj:
- Lupa.cz: X (Twitter) nabízí dvě nové úrovně předplatného
- Lupa.cz: Placený Facebook a Instagram bez reklam je tu, předplatné bude přes mobil dražší
Kombinace AI a 3D tisku ve výrobě
Propojení aditivní výroby a umělé inteligence přináší rozsáhlé možnosti při navrhování a produkci výrobků. Umělá inteligence poskytuje schopnosti generativního designu a důkladné optimalizace výrobních procesů, usnadňuje údržbu a kontrolu kvality a nabízí další inovativní přístupy k vylepšení procesu 3D tisku. Tyto výhody ale kladou nemalé nároky na vypočetní výkon, kvalitu a dostupnost zdrojových dat, integraci s existujícími systémy a jiná omezení, která vyžadují vysoké investice pro zajištění bezproblémového provozu.
Zdroj:
Firemní využití generativní umělé inteligence posiluje
Využívání generativní umělé inteligence pro podnikové účely zaznamenalo od jara znatelný nárůst. Dle průzkumu agentury Gartner došlo k trojnásobnému navýšení počtu organizací využívajících generativní umělou inteligenci pro pilotní projekty a dvojnásobnému navýšení při nasazení přímo do výrobního procesu. Nejčastěji je umělá inteligence používána pro účely vývoje software, marketingu a zákaznické podpory.
Zdroj:
- Gartner.com: Gartner Poll Finds 55% of Organizations are in Piloting or Production Mode with Generative AI
- ComputerWorld.cz: Umělá inteligence nabírá na obrátkách i ve firemním prostředí
Ladění velkých jazykových modelů může vést k narušení jejich bezpečnostních pojistek
Ladění (“fine-tuning”) velkých jazykových modelů umožňuje vývojářům při vytváření nových aplikací umělé inteligence lépe uzpůsobit výsledný nástroj požadovanému případu užití. Nedávná studie výzkumníků z Princeton University, Virginia Tech, Stanford University a IBM Research ale poukazuje na možné nevýhody přílišného ladění, které může vést k oslabení bezpečnostních pojistek jazykových modelů a následnému generování škodlivého obsahu.
Zdroj:
- Arxiv.org: Fine-tuning Aligned Language Models Compromises Safety, Even When Users Do Not Intend To!
Ústava pro umělou inteligenci jako prostředek záruky generovaného obsahu
Pro zajištění bezpečného využívání umělé inteligence je zapotřebí aplikacím a systémům vysvětlit, co je za bezpečí považováno. Převod lidských společenských a morálních hodnot do zásad umělé inteligence ale není vůbec jednoduchý. Ladění může vést k neočekávaným předsudkům, učení se zpětnou vazbou není dostatečně přesné a ani další využívané metody tvorby pojistek neochrání umělou inteligenci před sofistikovaně sestavenými negativními prompty. Některé společnosti proto vytvářejí základní “ústavy” pro nástroje umělé inteligence, které může umělá inteligence následovat pro omezení vytváření škodlivých výstupů.
Zdroj:
Malé jazykové modely mohou přispět k lepšímu porozumění neuronovým sítím
Velké jazykové modely jsou založené na zpracovávání velkého objemu dat v neuronové síti. Jejich trénink je ale velmi nákladný a časově náročný, vzhledem k ohromnému množství zpracovávaných vstupů se celý proces také stává nepřehledným a nepředvídatelným. Lepšímu porozumění vnitřnímu fungování neuroných sítí můžou pomoci menší modely, jak dokládá nedávný výzkum zaměřený na vytvoření datasetu založeného na pohádkách pro děti.
Zdroj:
Evropská komise doporučuje posoudit rizika významných technologických oblastí
Evropská komise v návaznosti na Evropskou strategii hospodářské bezpečnosti vydala doporučení o technologických oblastech s kritickým významem za účelem dalšího posouzení možných rizik. Jako čtyři nejdůležitější oblasti pro zabezpečení evropské strategické autonomie byly určeny technologie pokročilých polovodičů, umělá inteligence, kvantové technologie a biotechnologie.
Zdroj:
Nový typ kvantového procesoru
Výsledkem mezinárodní spolupráce pod vedením vědců z Jižní Koreji je nový typ kvantového procesoru umožňující lepší kontrolu vyššího počtu qubitů najednou. Jedná se o významný pokrok ve výzkumu kvantových systémů, protože až dosud se dařilo na jednom povrchu izolátoru manipulovat pouze s jedním qubitem.
Zdroj:
Detailní atlas mozku
Pochopení lidské inteligence se neobejde bez hlubšího studia lidského mozku, který její formování umožňuje. Nově zveřejněná série studií poskytuje detailní mapu mozku, která popisuje více než 3000 druhů buněk v různém stádiu vývoje a slouží tak jako základ pro další výzkum mozku a jeho aktivity.
Zdroj:
Algoritmus pro eliminaci škodlivých příkazů: Ochrana, či riziko?
Australským výzkumníkům se podařilo vytvořit systém kybernetické obrany bezpilotních vojenských robotů využívající strojové učení pro rozpoznávání škodlivých příkazů a zamezení MitM (man-in-the-middle) útokům. Dostatečné zabezpečení vojenských robotů a systémů je kritickou nezbytností, jejich přílišná autonomie ale může přinášet zcela nová rizika.
Zdroj: