sQUAD theme: How to implement the "right to be forgotten" in large language models?

👨‍💻 Мітап для тих, хто досліджує, дотреновує або впроваджує LLM : як відрізнити забуття від приховування, як перевірити результат і коли unlearning варто застосовувати, попри його обмеження. Великі мовні моделі можуть запамʼятовувати й відтворювати персональні дані, конфіденційну інформацію та фрагменти контенту, захищеного авторським правом. Просто видаляти документи із навчального набору не є рішенням цієї проблеми, тому що це негативно впливає на її вміння. 19 листопада у Львові АІ-фахівці SQUAD розберуть, як LLM unlearning намагається розвʼязати цю проблему — і чому реалізувати «право бути забутим» у мовних моделях складніше, ніж здається. Подія традиційно безоплатна, а реєстрація вже відкрита: bit.ly/4syI5SQ 👀 У програмі: — розглянемо два підходи до approximate unlearning: gradient ascent і task-vector arithmetic ; — перевіримо, що відбувається після «забуття» : чи можна отримати інформацію, змінивши формулювання запиту, чи повертається вона після дотренування, квантизації та чи не втрачає модель разом із нею корисні навички; — поговоримо про differential privacy на прикладі VaultGemma та ціну приватності для якості моделі. 🎙️ Спікери: — Дмитро Лукашов, Applied Scientist (CV, VLM) у SQUAD, аспірант з прикладної математики в ХНУРЕ. — Вікторія Маковська, Engineering Lead у SQUAD, Researcher у команді Lapa LLM, аспірантка та випускниця Факультету прикладних наук УКУ. — Денис Лазаренко, Applied Science Manager у SQUAD, 13 років досвіду в IT (AI, Machine Learning, Computer Vision та Data Engineering) зі спеціалізацією на розробці ML-систем. Дата: 19 листопада, 19:00 Місце: Львів, офлайн + онлайн Участь безкоштовна. Приєднуйтеся, щоб дізнатися більше про сучасні наукові підходи, отримати відповіді на ваші питання наживо й поспілкуватися з українською AI-спільнотою. 🤖 🔗 Деталі та реєстрація — bit.ly/4syI5SQ 💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!