TagsArticle Source
Formal Methods and Deep Learning
- Speaker: Matthew Mirman
Abstract
Deep neural networks have shown impressive performance in a variety of domains including vision, NLP, and natural sciences. However, there is still a lack of trust over their safe and reliable deployment in safety-critical applications such as autonomous driving, medical diagnosis, and finance which hinders their real-world applicability. Constructing models that are both accurate and achieve the desired level of trustworthiness requires solving several hard fundamental problems beyond the reach of existing methods. \nIn this tutorial, we will discuss some of the recent work in the community on building state-of-the-art trustworthy AI models with provable safety and correctness guarantees. These methods combine classic ideas from formal methods such as abstractions and solvers with techniques used to create modern AI systems (e.g., optimization, learning). We will also discuss several open problems, the solutions of which would substantially advance the field of trustworthy AI.
신뢰할 수 있는 최첨단 인공지능 모델 개발
심층 신경망은 컴퓨터 비전, 자연어 처리, 자연과학 등 다양한 분야에서 인상적인 성능을 보여주었습니다. 하지만 자율주행, 의료 진단, 금융과 같은 안전성이 중요한 분야에 신뢰할 수 있고 안전하게 배치하는 데에는 여전히 신뢰 부족 문제가 존재하며, 이는 실 세계 적용 가능성을 저해합니다.
정확성과 동시에 원하는 수준의 신뢰성을 달성하는 모델을 구축하기 위해서는 기존 방법으로는 해결하기 어려운 몇 가지 근본적인 문제들을 극복해야 합니다.
이 강좌에서는 최근 연구 커뮤니티에서 진행되고 있는, 증명 가능한 안전성 및 정확성 보장 기능을 갖춘 신뢰할 수 있는 최첨단 인공지능 모델 개발에 대한 연구를 논의합니다. 이러한 방법은 추상화 및 솔버와 같은 형식적 방법론의 고전적인 아이디어와 현대 인공지능 시스템 (예: 최적화, 학습)을 만드는 데 사용되는 기술을 결합합니다. 또한 이 분야를 크게 발전시킬 수 있는 몇 가지 미해결 문제에 대해서도 논의할 예정입니다.