Neuro-Symbolic AI with AllegroGraph

Abstract

Neuro-Symbolic AI is a burgeoning field that marries two distinct realms of artificial intelligence: neural networks, which form the core of deep learning, and symbolic AI, which encompasses logic-based and knowledge-based systems. This synergy is designed to capitalize on the strengths of each approach to overcome their respective weaknesses, leading to AI systems that can both reason with human-like logic and adapt to new situations through learning.

Neuro-Symbolic AI aims to create models that can understand and manipulate symbols, which represent entities, relationships, and abstractions, much like the human mind. These models are adept at tasks that require deep understanding and reasoning, such as natural language processing, complex decision-making, and problem solving.

The neural component of Neuro-Symbolic AI focuses on perception and intuition, using data-driven approaches to learn from vast amounts of unstructured data. Neural networks are exceptional at tasks like image and speech recognition, where they can identify patterns and nuances that are not explicitly coded. On the other hand, the symbolic component is concerned with structured knowledge, logic, and rules. It leverages databases of knowledge (Knowledge Graphs) and rule-based systems to perform reasoning and generate explanations for its decisions.

The interplay between these two components is where Neuro-Symbolic AI shines. It can, for example, use neural networks to interpret a complex image and then apply symbolic reasoning to answer questions about the image’s content or to infer the relationships between objects within it.

Integrating Knowledge Graphs into Neuro-Symbolic AI is one of its most significant applications. Knowledge Graphs represent relationships in data, making them an ideal structure for symbolic reasoning. They can store facts about the world, which AI systems can then reason about. This is where platforms like AllegroGraph come into play.

AllegroGraph is a horizontally distributed Knowledge Graph Platform that supports multi-modal Graph (RDF), Vector, and Document (JSON, JSON-LD) storage. It is equipped with capabilities such as SPARQL, Geospatial, Temporal, Social Networking, Text Analytics, and Large Language Model (LLM) functionalities. These features enable scalable Knowledge Graphs, which are essential for building Neuro-Symbolic AI applications that require complex data analysis and integration.

In the context of Neuro-Symbolic AI, AllegroGraph’s W3C standards based graph capabilities allow it to define relationships between entities in a way that can be logically reasoned about. The geospatial and temporal features enable the AI to understand and reason about the physical world and the passage of time, which are critical for real-world applications. The inclusion of LLMs allows for the processing and understanding of natural language, turning unstructured text into structured knowledge that can be added to the graph and reasoned about.

The combination of AllegroGraph’s capabilities with Neuro-Symbolic AI has the potential to transform numerous industries. In healthcare, it can integrate and interpret vast datasets, from patient records to medical research, to support diagnosis and treatment decisions. In finance, it can analyze transactions within the context of evolving regulations to detect fraud and ensure compliance.

Neuro-Symbolic AI represents a significant step forward in the quest to build AI systems that can think and learn like humans. By integrating neural learning’s adaptability with symbolic AI’s structured reasoning, we are moving towards AI that can understand the world and explain its understanding in a way that humans can comprehend and trust. Platforms like AllegroGraph play a pivotal role in this evolution, providing the tools needed to build the complex knowledge graphs at the heart of Neuro-Symbolic AI systems. As the field continues to grow, we can expect to see increasingly sophisticated AI applications that leverage the power of both neural networks and symbolic reasoning to tackle the world’s most complex problems.

뉴로-심볼릭 AI란 무엇인가?

뉴로-심볼릭 AI는 심볼릭(Symbolic) AI와 신경망(Neural) AI를 결합한 접근 방식입니다. 이는 ‘복합 AI(Composite AI)’라고도 불립니다. 이 접근 방식은 지난 10여 년간 지식 그래프와 함께 논리(logic)를 활용하고, 기계 학습을 접목해 온 경험에 최근 2년 동안 LLM(거대 언어 모델)과 벡터 스토어를 추가하면서 발전했습니다. 각 AI 시스템은 강력한 부분과 약한 부분을 모두 가지고 있으며, 뉴로-심볼릭 AI는 한 시스템의 강점을 사용하여 다른 시스템의 약점을 보완하는 것을 목표로 합니다.

핵심적인 특징 및 기존 AI 방식과의 차이점

뉴로-심볼릭 AI의 핵심 특징은 다음과 같습니다.

심볼릭 AI와의 차이 및 결합:
- 심볼릭 AI (Symbolic AI): 온톨로지, 분류 체계, 기술 논리, 프롤로그(Prolog), 제약 기반 추론, 다단계 계획, 가상 시나리오 등을 포함하며 지식 표현 및 규칙에 기반합니다.
- 심볼릭 AI의 강점: 정밀성 및 일관성 (진단, 분류, 예측이 반복 가능), 투명성 및 설명 가능성 (결론 도달 과정에 대한 명확한 통찰력), 잘 이해된 영역에서의 신뢰성.
- 심볼릭 AI의 약점: 복잡성 및 유지보수 어려움 (지속적인 업데이트 필요), 제한된 유연성 (새로운 사례 발생 시 추가 규칙 필요), 전문가 의존성. 수천 개의 규칙으로 시스템을 구축할 경우, 새로운 규칙 하나를 추가하는 것만으로도 다른 규칙들과의 상호작용 때문에 디버깅에 많은 시간이 소요될 수 있습니다.
- 뉴로-심볼릭 AI에서의 결합: 뉴로-심볼릭 AI는 이러한 심볼릭 추론 능력을 통합합니다. 심볼릭 시스템은 LLM에게 진단 지원을 요청하거나 의료 기록을 제공하는 데 사용될 수 있으며, 기계 학습을 위한 특성 벡터 및 이벤트 시퀀스를 생성할 수도 있습니다. 또한, 심볼릭 논리는 임상 진료 경로를 규칙으로 작성하거나, 심지어 LLM이 논리 프로그램을 작성하도록 할 수도 있습니다.
신경망 AI(기계 학습, LLM 포함)와의 차이 및 결합:
- 신경망 AI (Neural AI): 기계 학습 데이터 및 통계를 기반으로 하며, 그래프 신경망(GNN), 순환 신경망(RNN), 분류, 이상 탐지 등을 포함합니다. LLM/벡터는 자연어 처리 및 문헌을 통해 비정형 콘텐츠에서 개체 및 이벤트 추출, 로컬 및 원격 지식에 대한 질의 응답, RAG(검색 증강 생성) 등을 수행합니다.
- 신경망 AI의 강점 (고전적 ML): 적응성 (규칙 작성 없이 새로운 데이터에서 학습), 패턴 인식 (대규모 데이터 세트에서 패턴 식별), 데이터 처리 효율성.
- 신경망 AI의 약점 (고전적 ML): 블랙박스 문제 (추천 및 예측 설명의 어려움, 신뢰 문제), 데이터 품질 및 양에 의존 (부정확하거나 편향된 데이터는 의사 결정에 부정적인 영향), 윤리 및 개인 정보 보호 문제.
- LLM의 강점: 자연어 이해 능력, 방대한 지식 통합, 최신 정보 활용 가능성.
- LLM의 약점: 신뢰성 및 정확성 문제 (환각(hallucinations) 발생), 물리적 세계에 대한 진정한 이해 부족, 윤리 및 개인 정보 보호 문제 (학습 데이터 문제). LLM의 예측, 결론, 추천은 신뢰할 수 없으므로 항상 확인해야 합니다.
- 뉴로-심볼릭 AI에서의 결합: 뉴로-심볼릭 AI는 기계 학습 및 LLM의 능력을 통합합니다. LLM은 기계 학습 결과 설명, LLM 예측 검증, 특성 엔지니어링, 진단 지원 등을 수행할 수 있습니다. 기계 학습 모델은 모든 환자의 이벤트를 기반으로 학습하고 향후 이벤트를 예측하는 데 사용될 수 있습니다.
지식 그래프의 역할: 뉴로-심볼릭 AI 아키텍처에서 지식 그래프는 핵심적인 역할을 합니다. 지식 그래프는 서로 다른 유형의 AI 모델을 연결하는 접착제(glue)이자 제어자(controller) 역할을 합니다. 지식 그래프는 실세계 개체에 대한 의미를 부여하여 시스템이 구문보다는 의미론으로 나아가도록 지원합니다. 알레그로그래프(AllegroGraph)와 같은 플랫폼은 LLM, 벡터 스토어, 심볼릭 추론 엔진과 직접 연동하여 이러한 결합을 가능하게 합니다. 서로 다른 AI 시스템의 결과를 동일한 지식 그래프에 저장함으로써, 이 시스템들이 함께 작동하고 결과를 비교하거나 특정 조건(예: LLM과 RNN이 동일한 예측을 하는 경우)을 기반으로 추가 작업을 수행할 수 있도록 합니다.

뉴로-심볼릭 AI의 중요성

뉴로-심볼릭 AI는 다음과 같은 기업의 요구 사항(Enterprise Drivers)을 충족시키는 데 중요합니다.

신뢰 (Trust): LLM의 환각이나 ML 모델의 편향 등 각 AI 시스템의 약점을 보완하여 데이터 및 결과에 대한 신뢰를 높입니다.
설명 가능성 (Explainability): 특히 규제 산업 및 개인 데이터 사용 시스템에서 AI 출력에 대한 설명 및 해석의 필요성이 중요해짐에 따라, 블랙박스 문제를 가진 ML 모델의 예측을 LLM이나 심볼릭 추론으로 설명하는 등의 방식으로 설명 가능성을 높일 수 있습니다.
의미론 (Semantics): 실세계 개체를 다루는 시스템에서 구문보다 의미론으로 나아가 단어와 용어에 특정 도메인 내에서 의미를 부여할 필요가 있습니다.
미래 보장형 시스템 (Future-proof Systems):
복합 AI 도구 (Composite AI Tooling): 다양한 유형의 AI 모델을 결합하는 도구 세트가 증가하고 개발자, 데이터 과학자 및 최종 사용자가 사용하기 쉬워지고 있습니다.

요약하자면, 뉴로-심볼릭 AI는 심볼릭 AI의 정밀성, 일관성, 설명 가능성과 신경망 AI (ML 및 LLM)의 적응성, 패턴 인식, 자연어 이해 능력을 지식 그래프라는 접착제를 통해 결합하여, 각 방식의 약점을 보완하고 더욱 신뢰할 수 있고 설명 가능한 AI 시스템을 구축하는 차세대 접근 방식입니다.

Neuro-Symbolic AI and AllegroGraph

Abstract

This was a recorded Webinar that explores the groundbreaking features of AllegroGraph 8.0, the latest revolution in Enterprise Knowledge Graphs and Neuro-Symbolic AI. The webinar was tailored for professionals keen to leverage the forefront of advanced AI technologies in their organizations.

Key Webinar Highlights:

Introduction to AllegroGraph 8.0: Discover the potential of this advanced multi-modal Graph, Vector, and Document database. We’ll demonstrate how it’s transforming the landscape of data management and AI application development.

Revolutionizing AI with AllegroGraph: Delve into the integration of LLMs, Classical Machine Learning, Symbolic AI, Rules, and Logic within AllegroGraph. Discover how this synergy anchors AI outputs in verifiable facts, significantly enhancing the accuracy and reliability of AI-generated content. This is a vital step forward in ensuring trust and interpretability in AI systems.

뉴로-심볼릭 AI란 무엇인가?

뉴로-심볼릭 AI는 심볼릭 AI(Symbolic AI)와 신경망 AI(Neural AI)를 결합한 접근 방식입니다. 이는 때때로 복합 AI(Composite AI)라고도 불립니다. 이 접근 방식은 지난 10여 년간의 지식 그래프, 논리 활용, 기계 학습 접목 경험에 최근 2년 동안 LLM(거대 언어 모델) 및 벡터 스토어를 추가하면서 발전했습니다. 각 AI 시스템은 고유한 강점과 약점을 가지고 있으며, 뉴로-심볼릭 AI는 이러한 시스템들을 결합하여 한 시스템의 강점으로 다른 시스템의 약점을 보완하는 것을 목표로 합니다.

핵심적인 특징 및 기존 AI 방식과의 차이점

뉴로-심볼릭 AI의 핵심 특징은 다음과 같습니다.

심볼릭 AI (Symbolic AI)와의 결합:
- 심볼릭 AI: 온톨로지, 분류 체계, 기술 논리, 프롤로그(Prolog), 제약 기반 추론, 다단계 계획, 가상 시나리오 등을 포함하며 지식 표현 및 규칙, 논리적 추론에 기반합니다.
- 심볼릭 AI의 강점: 정밀성 및 일관성 (결과가 반복 가능함), 투명성 및 설명 가능성 (결론 도달 과정이 명확함), 잘 이해된 영역에서의 신뢰성.
- 심볼릭 AI의 약점: 복잡성 및 유지보수 어려움 (지속적인 업데이트 필요), 제한된 유연성 (새로운 사례 발생 시 추가 규칙 필요), 전문가 의존성. 수천 개의 규칙으로 시스템을 구축할 경우 새로운 규칙 하나를 추가하는 것만으로도 디버깅에 많은 시간이 소요될 수 있습니다.
- 뉴로-심볼릭 AI에서의 결합: 뉴로-심볼릭 AI는 이러한 심볼릭 추론 능력을 통합합니다. 심볼릭 시스템은 LLM에게 진단 지원을 요청하거나 의료 기록을 제공하는 데 사용될 수 있으며, 기계 학습을 위한 특성 벡터 및 이벤트 시퀀스를 생성할 수도 있습니다. 또한, 심볼릭 논리는 임상 진료 경로를 규칙으로 작성하거나, 심지어 LLM이 논리 프로그램을 작성하도록 할 수도 있습니다.
신경망 AI (Neural AI, 기계 학습 및 LLM 포함)와의 결합:
- 신경망 AI (고전적 ML): 그래프 신경망(GNN), 순환 신경망(RNN), 분류, 이상 탐지 등을 포함하며 기계 학습 데이터 및 통계 기반의 패턴 인식을 수행합니다.
- 신경망 AI (고전적 ML)의 강점: 적응성 (규칙 작성 없이 새로운 데이터에서 학습), 패턴 인식 (대규모 데이터 세트에서 패턴 식별), 데이터 처리 효율성.
- 신경망 AI (고전적 ML)의 약점: 블랙박스 문제 (추천 및 예측 설명의 어려움, 신뢰 문제), 데이터 품질 및 양에 의존, 윤리 및 개인 정보 보호 문제.
- LLM/Vector의 강점: 자연어 이해 능력, 방대한 지식 통합, 최신 정보 활용 가능성. RAG(검색 증강 생성)를 통해 사내 문서 등 비정형 콘텐츠에서 개체 및 이벤트 추출, 로컬 및 원격 지식에 대한 질의 응답 등을 수행할 수 있습니다.
- LLM/Vector의 약점: 신뢰성 및 정확성 문제 (환각(hallucinations) 발생), 물리적 세계에 대한 진정한 이해 부족, 윤리 및 개인 정보 보호 문제. LLM의 예측, 결론, 추천은 신뢰할 수 없으므로 항상 확인해야 합니다.
- 뉴로-심볼릭 AI에서의 결합: 뉴로-심볼릭 AI는 기계 학습 및 LLM의 능력을 통합합니다. LLM은 기계 학습 결과 설명, LLM 예측 검증, 특성 엔지니어링, 진단 지원 등을 수행할 수 있습니다. 기계 학습 모델은 모든 환자의 이벤트를 기반으로 학습하고 향후 이벤트를 예측하는 데 사용될 수 있습니다.
지식 그래프의 핵심적인 역할: 뉴로-심볼릭 AI 아키텍처에서 지식 그래프는 핵심적인 역할을 합니다. 지식 그래프는 서로 다른 유형의 AI 모델을 연결하는 접착제(glue)이자 제어자(controller) 역할을 합니다. 지식 그래프는 실세계 개체에 대한 의미를 부여하여 시스템이 구문보다는 의미론으로 나아가도록 지원합니다. 서로 다른 AI 시스템의 결과를 동일한 지식 그래프에 저장함으로써, 이 시스템들이 함께 작동하고 결과를 비교하거나 특정 조건(예: LLM과 RNN이 동일한 예측을 하는 경우)을 기반으로 추가 작업을 수행할 수 있도록 합니다.
기업 요구 사항 충족: 뉴로-심볼릭 AI는 다음과 같은 기업의 요구 사항(Enterprise Drivers)을 충족시키는 데 중요합니다.
- 신뢰 (Trust): LLM의 환각이나 ML 모델의 편향 등 각 AI 시스템의 약점을 보완하여 데이터 및 결과에 대한 신뢰를 높입니다.
- 설명 가능성 (Explainability): 특히 규제 산업 및 개인 데이터 사용 시스템에서 AI 출력에 대한 설명 및 해석의 필요성이 중요함에 따라, 블랙박스 문제를 가진 ML 모델의 예측을 LLM이나 심볼릭 추론으로 설명하는 등의 방식으로 설명 가능성을 높일 수 있습니다.
- 의미론 (Semantics): 실세계 개체를 다루는 시스템에서 구문보다 의미론으로 나아가 단어와 용어에 특정 도메인 내에서 의미를 부여할 필요가 있습니다.
- 미래 보장형 시스템 (Future-proof Systems) / 복합 AI 도구 (Composite AI Tooling): 다양한 유형의 AI 모델을 결합하는 도구 세트가 증가하고 개발자, 데이터 과학자 및 최종 사용자가 사용하기 쉬워지고 있습니다.

요약하자면, 뉴로-심볼릭 AI는 기존의 순수 심볼릭 방식이나 순수 신경망 방식의 한계를 극복하기 위해 심볼릭 AI의 정밀성, 일관성, 설명 가능성과 신경망 AI (ML 및 LLM)의 적응성, 패턴 인식, 자연어 이해 능력을 지식 그래프라는 접착제를 통해 결합합니다. 이를 통해 각 방식의 약점을 보완하고, 더욱 신뢰할 수 있고, 설명 가능하며, 의미론에 기반한 차세대 AI 시스템을 구축하는 것이 핵심 특징입니다.

Stop Thinking, Just Do!