성능테스트

성능 테스트 발표

Q.AWS에서는 인스턴스나 볼륨에 대해서 버스트 기능을 제공합니다. 이는 평소에 사용하지 않을 때의 성능을 모아두고, 부하가 발생할 경우 일시적으로 성능을 올리는 기능입니다. 이것이 어떤 메커니즘으로 작동하는지 연구하세요.

aws가 intel을 인수 하셨다

스크린샷 2023-06-07 오후 9 56 19

Burstable Instance 버스트 가능 성능 인스턴스

  • 간헐적으로 cpu를 많이 사용하는 대부분의 범용 워크로드에 최적화

  • 오토스케일을 안달거나 테스트용으로 잠시 cpu를 올릴때 크레딧만큼 성능을 올려준다 쓴만큼비용청구
    ec2같은경우 시간당 과금이 성능이 크레딧 만큼 올라간다 비용이 절감된다

  • 필요한 경우 높은 수준의 cpu 사용을 무한정 유지할 수 있는 기능
    디폴트 리미티드,언리미티드
  • 적당한 cpu 사용량이 오퍼링에 포함
    지속적으로 높은 cpu 사용량을 위해, 추가 cpu 크레딧도 다썼을때 쓴만큼 과금

credit

  • cpu 기준 미만으로 유지되면 지속적으로 크레딧을 얻음

  • 기준선 이상으로 버스트될때 크레딧을 지속적으로 소비

  • 적립되거나 소비되는 크레딧 금액은 인스턴스의 cpu 사용률에 따라 달라짐

인스턴스 종류가 워낙 많아서 선택하는 것도 쉬운 일은 아니지만 서비스에 맞는 타입을 고르지 않으면 낭비되는 리소스가 발생하고 비용과 직결되는 부분이기 때문에 깊은 고민이 필요합니다.

https://instances.vantage.sh/

위 사이트를 통해 ec2. 1년간의 비용을 알아보자 스크린샷 2023-06-07 오후 11 52 40 t2.micro 스크린샷 2023-06-07 오후 11 52 37 t3.xlarge

인스턴스 디테일에 다른점이 많은데 자세한건 잘 모르겠다
파이널때 다시 이용해봐야겠다

cpu utilization

가상화 공유 자원을 운용하는 클라우드 특성상 CPU가 1% ~ 100%를 넘나들며 사용량이 예측불가능한 서버들이 많아지게 되면 해당 가상서버가 아닌 물리적 자원을 공유하는 다른 서버에도 영향을 줄 수 있다. 그래서 CPU 사용률이 5~20% 이내로 유지되는 수준으로 서비스를 운영하고, 이를 넘어설 정도로 서비스가 커진다면 그에 걸맞는 높은 용량의 서버를 사용하도록 하는 것이다. 그래도 피크 시간대나 특정 작업에서 CPU가 많이 사용될 수 있으므로, 어느정도의 CPU 초과는 허용해주되, 많이는 초과하지 말라는 것이다.

정석대로라면 평균 CPU 사용률이 20%를 넘어가는 것은 바람직하지 않으므로, 바람직한 서버 운영을 도모한다고 볼 수도 있으나. 기존에 서버를 직접 운영하거나 가상서버 호스팅을 사용했을 떄에 비하면 사용자 입장에서 상당히 큰 제약이다. 기존엔 비수기엔 CPU가 1~2%대로 유지되다가 성수기나 이벤트 시기엔 20~30%정도로 몰릴 수도 있는데 그렇다고 서버거 과부화로 죽는 상황까진 이르지 않는다. 하지만 AWS의 이런 제약 아래선 성수기에 CPU가 높은 수준으로 며칠 이상 유지될 경우 CPU 버스트 크레딧이 모두 소진되어 갑자기 CPU 성능이 급감하고, 특정 서버의 성능이 급감을 하게 되면 연쇄적인 시스템 장애로 번질 수 있다. 실제로 이런 사고를 한번 겪고 나서 CPU 버스트에 대해 알게 되는 경우도 많다.

사용자는 당연히 CPU의 100%를 사용할 수 있을 것이라 생각하고 서비스를 신청했는데 실제로는 CPU의 10~20%밖에 못쓰도록 제한이 있는 것이니 과대포장 같은 느낌이기도 하다.
baseline zone 40% 을 권장 50%이상으로 설정해놓으면 100%으로 금방된다 .

https://itwiki.kr/w/AWS_CPU_%EB%B2%84%EC%8A%A4%ED%8A%B8

T 타입의 인스턴스는 쉽게 이야기하면 마치 인스턴스의 scale-up으로 표현할 수 있습니다. 인스턴스의 스펙을 (수직) 확장하기 위해서는 머신을 중지(STOP) 해야 하는 게 일반적인데요, T 타입은 baseline을 정해두고 CPU 사용률을 제한하다가 일시적으로 스파이크 치는 트래픽을 대응하기 위해 순간적으로 CPU 사용률을 높일 수 있습니다. 마치 scale-up 하는 것처럼요. 하지만 스케일업도 위에서 살펴본 것처럼 획득한 크레딧 내에서 일시적으로 가능한 수준입니다. 평소 트래픽이 많고 CPU 부하가 일정 수준 이상으로 유지되는 서비스라면 T 타입 인스턴스는 적합하지 않죠. 주기적인 배치 작업이나 특정 시점에만 트래픽이 몰리는 서비스, 혹은 밤에는 사용률이 거의 없다가 낮이 돼야 사용률이 올라가는 그런 서비스에 아주 적합하겠습니다.

https://jybaek.tistory.com/916