R&Dix 공식 블로그

✏️ 작성자가 YCSB 실험을 위한 환경 세팅부터 빌드, benchmark 실행까지의 과정을 진행하며 기록한 문서입니다.📌 Arm architecture (aarch64) 환경에서는 진행이 어려웠기에, amd64 환경에서 진행하시는 것을 권장드립니다. 🏗️ About YCSBYahoo! Cloud Serving Benchmark는 NoSQL과 KV database의 성능평가를 위해 디자인된 benchmarking framework이다. GitHub - brianfrankcooper/YCSB: Yahoo! Cloud Serving BenchmarkYahoo! Cloud Serving Benchmark. Contribute to brianfrankcooper/YCSB development by cre..

(1) Log-Structured Merge (LSM) Tree 와 Hash 자료구조에 대한 이해(2) System Software 에 대한 기본 지식원본 문서 링크: https://ieeexplore.ieee.org/abstract/document/9458602?casa_token=yQsjzZM6nDwAAAAA:bG5GWRHLDvAI3kognFzHkMtQ9tL_Jxu_JTEN_PUBle9dQxpAli1qlyEEBiTKclrqwcCQgnQS WipDB 에서 언급한 Well-designed Key-Value Store (KV-Store) 를 위한 조건들과 이를 위한 LSM-tree 자료구조Key-Value Store (KV-Store) 라는 것은 컴퓨터가 다루는 어떤 데이터를 Key-Value 라는 인터페..

[arXiv’ 24] Infinite-LLM: Efficient LLM Service for Long Context with DistAttention and Distributed KVCache 논문 리뷰Paper: Infinite-LLM: Efficient LLM Service for Long Context with DistAttention and Distributed KVCache (Arxiv, 2024) 대규모 언어 모델(LLM) 추론 서비스에서는 요청마다 지원하는 최대 입력 문맥 길이가 크게 달라진다.예를 들어,OpenAI의 ChatGPT는 128K 토큰,구글 Gemini는 1000K 토큰,LongRoPE 연구는 2000K 토큰까지 지원한다.그러나 LLM은 AR(Autoregressive) 방식으로..