여분의 해마

본 글은 저의 대학원 과제 보고서를 요약하여 블로그로 작성한 것입니다.추론이란?1.1 추론의 기본 개념추론은 사실과 논리를 사용하여 답을 찾는 과정으로, 크게 3가지 유형이 있다.연역적 추론(Deductive Reasoning)전제에서 확실한 결론을 도출하는 방식논리적 필연성에 기반주어진 전제에서 확실한 결론 도출귀납적 추론(Inductive Reasoning)관찰을 통해 가능성 높은 결론을 예측경험적 관찰에 기반확률적 결론 도출가추적 추론(Abductive Reasoning)관찰된 현상을 설명할 수 있는 가능성이 높은 것을 찾는 방식현상의 원인을 추정 1.2 추론의 형식적 구분Formal 추론규칙 기반으로 지식을 토대로 논리적 규칙에 따라 결론 도출명시적이고 체계적인 접근Informal 추론직관이나 상..

https://ieeexplore.ieee.org/document/10387715/ Unifying Large Language Models and Knowledge Graphs: A RoadmapLarge language models (LLMs), such as ChatGPT and GPT4, are making new waves in the field of natural language processing and artificial intelligence, due to their emergent ability and generalizability. However, LLMs are black-box models, which often fall sieeexplore.ieee.org 최근 KG와 LLM을 연..

RAG+KG와 관련된 글, 논문, 영상을 최근 자주 접하고 있다.스크랩용으로 링크와 짧게 어떤 내용인지 AI요약으로 정리하고, 추후 천천히 볼 예정 지식그래프와 LLM에 대한 글을 찾아보면 체감상 90%는 neo4j의 데이터베이스를 사용한 경우라 property graph위주로 보인다. 실제로 neo4j가 공격적으로 KG+LLM 연구를 진행하고 있다고 봄 Neo4j가 Going Meta라는 프로그램을 유튜브에서 공개하는데 오늘(2024-05-20)기준으로 27개 영상이 있는데, 기본적인 지식그래프, 온톨로지 지식이 있다면 필요한 부분만 들어도 될 것 같다. 아래는 들으면 좋을 것 같은 영상 몇개를 골라봄 Going meta - Ep 7: Generating natural language from your..

http://arxiv.org/abs/2106.09685 LoRA: Low-Rank Adaptation of Large Language Models An important paradigm of natural language processing consists of large-scale pre-training on general domain data and adaptation to particular tasks or domains. As we pre-train larger models, full fine-tuning, which retrains all model parameters, becomes le arxiv.org 소개 (Introduction) "LoRA"는 마이크로소프트에서 출시된 언어 모델로, ..