Stop Thinking, Just Do!

Sung-Soo Kim's Blog

Introduction to gRPC

tagsTags

20 March 2018


gRPC (Remote Procedure Call)

Introduction

  • gRPC가 뭐냐?
    • gRPC Remote Procedure Call
      • GNU is Not Unix (아재)
  • RPC가 뭐냐?
    • 위키피디아 정의(한글로 풀기)

      In distributed computing a remote procedure call (RPC) is when a computer program causes a procedure (subroutine) to execute in another address space (commonly on another computer on a shared network), which is coded as if it were a normal (local) procedure call, without the programmer explicitly coding the details for the remote interaction. That is, the programmer writes essentially the same code whether the subroutine is local to the executing program, or remote.

    • 입관되신 분들
      • CORBA
      • SOAP
        • 이기종 플랫폼 간 호환성은 좋지만, XML이 무거워서..
    • 잊혀진..
      • RMI
        • CORBA에 비해 매우 간단하지만 Java 끼리만..
        • 하지만 티안나게 사용되는.. JMX, VisualVM
  • 패왕 등장 HTTP + REST + JSON
  • 그래서 RPC는 망?
    • 아니다. 구현체가 좋지 않았을 뿐..
    • 더군다나 클라우드 환경에서는 효율적인 RPC가 반드시 필요
  • 그래서 구글에서 RPC를 다시 만들었다.
    • Stubby라는 RPC 구현체를 만들어서
      • 1주일에 20억개의 컨테이너가 런칭되는 구글 환경에서
      • 1초에 100억건의 RPC를 처리
  • gRPC는 Stubby의 오픈 소스 후계자

gRPC vs. REST API

  • gRPC가 HRJ(HTTP REST JSON)보다 나은점
    • binary protocol(Protocol Buffer 3)
      • text보다 더 적은 데이터 공간으로 처리 가능 -> 네트워크, 메모리 효율성 좋음
      • text보다 marshal/unmarshal 부하가 적으므로 CPU 더 적게 사용 -> CPU 효율성 좋음
    • HTTP/2
      • http://http2.golang.org/gophertiles
      • connection multiplexing
        • 여러 자원 요청을 하나의 커넥션으로 처리 가능 -> 네트워크 효율성 좋음
      • client/server streaming 가능
        • websocket과의 비교
    • 네트워크, 메모리, CPU 효율성 좋음
      • https://www.youtube.com/watch?v=BOW7jd136Ok
        • 처리량: 7:25
        • 처리량CPU: 7:35
      • 클라우드 환경에서의 서버 간 대규모 통신에 적합
      • 자원이 빈약한 모바일(또는 IoT까지?)에 적합
      • 바이트 수, 호출 수, CPU 수 등으로 과금되는 클라우드 환경에서 비용 절감에 도움

Examples

  • 구현 예제
    • 원격 프로시저 호출의 동작 방식
      • http://lycog.com/distributed-systems/remote-procedure-call/ 의 그림에 IDL, protoc 추가
    • 작성 순서 - 프로젝트 생성 및 build.gradle - dependencies - protobuf-gradle-plugin
      • IDL 작성 및 code Gen - Gen 된 코드 소개 - 뻘건 Compile Error 없애기 - Mark Directory As … - Add library ‘***’ classpath …
      • 서버 코드 - ImplBase를 extends 하는 서비스 모듈 - 특정 포트에서 listening 하는 서버 모듈
      • 클라이언트 코드
    • 채팅? 대규모 데이터 전송으로 성능 비교? SpringBoot 연동?
  • 실무 적용 고려 사항(다는 아니고 몇 개만..)
    • Versioning updating client
    • Service discovery
    • gRPC gateway
    • authentication
    • authorization
    • exception handling
    • failure control

Summary

  • gRPC가 뭐가 좋은지
  • Microservice와의 관계
  • Reactive Programming과의 관계
  • 관련 자료 링크

  • RESTful API가 있는데 뭐하러 gRPC?
    • gRPC 특징
      • Binary
      • HTTP/2
      • Polyglot
    • gRPC 비교 우위 over RESTful API
  • 어떻게 쓰는거냐?
    • Remote XX call
      • 호출 대상의 식별
      • 메시지를 전송하는 방법
      • 데이터의 종류
    • 예제
      • raw gRPC
        • unary - unary
        • unary - streaming
        • streaming - unary
        • streaming - streaming
      • 스프링 부트 rest api vs 스프링 부트 grpc
        • springboot grpc
          • https://github.com/LogNet/grpc-spring-boot-starter
          • https://www.versioneye.com/java/org.lognet:grpc-spring-boot-starter/0.0.2
  • 실무 적용 고려 사항
    • Versioning updating client
    • Service discovery
    • authentication
    • authorization
    • exception handling
    • failure control
  • Microservice와의 관계
    • good fit for server-to-server call
  • Reactive Programming과의 관계
    • onComplete, onError 등 reactive에서 따옴

  • Protocol buffer
    • Adv over XML
      • are simpler
      • are 3 to 10 times smaller
      • are 20 to 100 times faster
      • are less ambiguous
      • generate data access classes that are easier to use programmatically
    • XML over protobuf
      • Good for markup based text doc modeling
      • human readable, editable
      • self-describing
        • 근데 XML도 dtd나 xsd가 있어야 명확하긴 하다.
  • RESTful API가 있는데 뭐하러 gRPC?
    • 성능
      • http://bit.ly/etcd_grpc
      • marshalling/unmarshalling vs serialization/deserialization
        • https://en.wikipedia.org/wiki/Marshalling_(computer_science)
        • java에서는 xml <-> java obj는 marshal, json <-> java obj는 serialization이라는 표현 사용
    • Microservices와의 궁합
      • polyglot
        • 언어별 성능: https://performance-dot-grpc-testing.appspot.com/explore?dashboard=5712453606309888
      • server to server calls
  • 어떻게 쓰는거냐?
    • 호출 대상의 식별
    • 메시지를 전송하는 방법
    • 데이터의 종류
    • 예제
    • 스프링 부트 rest api vs 스프링 부트 grpc
    • springboot grpc
      • https://github.com/LogNet/grpc-spring-boot-starter
      • https://www.versioneye.com/java/org.lognet:grpc-spring-boot-starter/0.0.2
  • 실무 적용 고려 사항
    • Versioning updating client
    • Service discovery
  • https://www.youtube.com/watch?v=-2sWDr3Z0Wo
  • gRPC over HTTP/2 vs gRPC over WebSockets?
    • 35:00
    • 내용 잘 모르겠음
  • Versioning updating client
    • 35:40
    • app에서는 어렵지만 서버 투 서버에서는 protobuf가 backward compatibility가 있으므로, 정의만 변하지 않는다면 구버전 client가 신버전 server를 호출해도 깨지지 않으므로 서비스를 내리고 업데이트 할 필요가 없다.
  • load balancing
    • 38:47
    • 클라이언트가 hw loadbalancer에 호출하는 방식 가능
    • client side loadbalancing 지원?
  • client side software loadbalancer 예제?
    • 40:36
    • Netflix에 있을 것이다.
  • channel security support?
    • 42:07
    • SSL 지원한다. SSL은 양방향 보안도 지원한다. client나 server에 custom interceptor를 추가해서 ACL 적용도 가능하다.
  • WebSocket와 HTTP/2의 성능 차이?
    • 43:30
    • websocket은 connection을 multiplex 할 수 없다. 따라서 websocket은 연결을 더 많이 열어야 할 필요가 있다.
  • Unary RPC: the client sends a request to the server, the server sends a response
  • Streaming RPC: the client and server may each send one or more messages

https://www.youtube.com/watch?v=UOIJNygDNlE

  • 구글은 1주일에 20억개의 컨테이너를 런칭
  • 어거 어떻게 서로 살아있는지 확인하고 통신하나?
  • borg: google’s container orchestration scheduling service
    • 이게 Kubernetes로 오픈
  • stubby: the way these containers talk to each other
    • 이게 gRPC로 오픈
  • the biggest issue in changing a monolith into microservices lies in changing the communication pattern - Martin Folwer

  • monolith에서는 단순히 function call이었는데, microservice에서는 네트워크 호출이된다.
  • 앱이 확장되면 네트워크 호출도 지수적으로 증가하는 문제
  • gRPC가 good api design을 도와줄 수 있다.
  • 구글에서는 초당 10^10(100억)의 rpc 발생
  • y grpc is good for building microservice
  • grpc is niche
  • protocol buffer
    • 걍 binary json이라고 생각해도..
    • IDL
    • req, res
    • binary
    • http2
      • multiplexing
        • single tcp connection
      • bidirectional streaming
      • flow control
        • backpressure와 비슷
  • polyglot
  • mobile first
    • less overhead
  • kubernetes와 함께 zero downtime update
  • github.com/thesandlord/samples/tree/master/grpc-kubernetes-microservices

https://www.youtube.com/watch?v=BOW7jd136Ok

  • corba가 망한 이유
    • www.ejbtutorial.com/programming/tutorial-for-corba-hello-world-using-java
  • 백엔드 끼리 통신하는데 휴먼 리더블이 반드시 필요하냐.. 그래서 XML은 비효율적이다.
  • RPC
    • efficient: binary protocol in network(short) and cpu(marshal/serial low)
    • accurate: auto gen code
    • REST로는 안되는 복잡한 연산도 생성 및 처리 가능
      • 트랜잭션
  • Stubby
    • 100억 rpc/초
  • gRPC
    • IDL
    • HTTP/2
      • connection multiplexing
      • 요청 되는 자원마다 커넥션을 열지 않고, 여러 자원을 하나의 커넥션에 모아서 회신할 수 있다.
      • WebSocket과 달리? 클라이언트 스트리임, 서버 스트리밍 모두 가능
    • ProtoBuffer3
    • 성능
      • 처리량: 7:25
      • 처리량CPU: 7:35
      • 클라우드 서비스가 바이트 수, 호출 수, CPU 수 등으로 과금되는 걸 생각하면 큰 장점
    • 모바일 친화적
      • C#, Obj-C, Java와 같은 모바일 개발 주요 언어 지원
      • 적은 데이터량(2G, 3G 사용자에게도 좋다)
      • 낮은 CPU, 배터리

Protocol Buffer

  • https://developers.google.com/protocol-buffers/

REST API

  • http://blog.remotty.com/blog/2014/01/28/lets-study-rest/#crud

예제

Go

  • https://medium.com/@shijuvar/building-high-performance-apis-in-go-using-grpc-and-protocol-buffers-2eda5b80771b#.84pojc9kt

기타


comments powered by Disqus