yandex/yandex-tank

https://overload.yandex.net

Evgeniy Moskalenko

@evgmoskalenko

пробовал даже пересобрать образ, добавив свой ca.crt самоподписной

FROM direvius/yandex-tank:latest

RUN apt-get install ca-certificates -y
COPY ./config/ssl/ca.crt /usr/local/share/ca-certificates/ca-certificates.crt
RUN update-ca-certificates

curl отработал без параметра -k, но всеравно сам yandex-tank 401 получает

Enshin Andrey

@b10s

а что если танком один запрос отправить и отловить его тцпдампом
так же отловить курловый, успешный, запрос

сравнить в вайршарке заголовки?

Evgeniy Moskalenko

@evgmoskalenko

ща попробую, ток в куб запихну какойнить нетворк тул, спасибо

Evgeniy Moskalenko

@evgmoskalenko

такое впечатление, что Yandex-tank, разучился делать запросы с поддержкой mTLS, продебажил приложение, вот какая разница если отправлять из постмана и танка:

запрос из яндекс-танка:

{
'HTTP_SSL_CLIENT_VERIFY': 'NONE',
'HTTP_X_SSL_AUTHENTICATED': 'NONE',
}

запрос из постмана:

{
'HTTP_SSL_CLIENT_CERT': '-----BEGIN%20CERTIFICATE-----........-----END%20CERTIFICATE-----%0A',
'HTTP_SSL_CLIENT_VERIFY': 'SUCCESS',
'HTTP_SSL_CLIENT_SUBJECT_DN': 'CN=my-cn,OU=Company name,O=Company name,L=Kiev,ST=Kiev,C=UA',
'HTTP_SSL_CLIENT_ISSUER_DN': 'CN=Root Dev CA,OU=Company name,O=Company name,L=Kiev,ST=Kiev,C=UA',
'HTTP_X_SSL_DN': 'CN=my-cn,OU=Exness Trading,O=Company name,L=Company name,ST=Kiev,C=UA',
'HTTP_X_SSL_AUTHENTICATED': 'SUCCESS',
}

это разница, остальную часть запроса убрал

запрос делал на один эндпоинт, в один ингрес кубера, в один и тот-же под

Evgeniy Moskalenko

@evgmoskalenko

оч странно как-то

olsenfromhell

@olsenfromhell

@ninja-tester Привет! Тебе удалось пофиксить "Unable to access to JMeter executable file or it does not exist"? У меня такая же проблема.

andreiolegovichru

@andreiolegovichru

Здравствуйте, запустил впервые танк на Ubuntu 20.04. Делал по инструкции из yandextank.readthedocs.i

получил ошибку. Может быть кто-то сталкивался?

andrei@andrei-ubuntu:~/yandex-tank$ yandex-tank -c load.yaml
Traceback (most recent call last):
  File "/usr/local/bin/yandex-tank", line 5, in <module>
    from yandextank.core.cli import main
  File "/usr/local/lib/python3.8/dist-packages/yandextank/core/__init__.py", line 4, in <module>
    from .tankcore import TankCore  # noqa:F401
  File "/usr/local/lib/python3.8/dist-packages/yandextank/core/tankcore.py", line 25, in <module>
    from yandextank.plugins.DataUploader.client import LPRequisites
  File "/usr/local/lib/python3.8/dist-packages/yandextank/plugins/DataUploader/__init__.py", line 1, in <module>
    from .plugin import Plugin  # noqa:F401
  File "/usr/local/lib/python3.8/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 23, in <module>
    from ..Autostop import Plugin as AutostopPlugin
  File "/usr/local/lib/python3.8/dist-packages/yandextank/plugins/Autostop/__init__.py", line 1, in <module>
    from .plugin import Plugin  # noqa:F401
  File "/usr/local/lib/python3.8/dist-packages/yandextank/plugins/Autostop/plugin.py", line 8, in <module>
    from ..Console import Plugin as ConsolePlugin
  File "/usr/local/lib/python3.8/dist-packages/yandextank/plugins/Console/__init__.py", line 1, in <module>
    from .plugin import *  # noqa:F401,F403
  File "/usr/local/lib/python3.8/dist-packages/yandextank/plugins/Console/plugin.py", line 7, in <module>
    from .screen import Screen
  File "/usr/local/lib/python3.8/dist-packages/yandextank/plugins/Console/screen.py", line 1018
    key=lambda (k, v): (-1 * v[self.cases_sort_by], k))
               ^
SyntaxError: invalid syntax

Если это как-то связано с несовместимостью Python 3 и Python 2 есть ли где-то инструкция как это обойти?

Файл load.yaml:

phantom:
  address: 192.0.2.130:9151 # [Target's address]:[target's port]
  uris:
    - /
  load_profile:
    load_type: rps # schedule load by defining requests per second
    schedule: line(1, 10, 10m) # starting from 1rps growing linearly to 10rps during 10 minutes
console:
  enabled: true # enable console output
telegraf:
  enabled: false # let's disable telegraf monitoring for the first time

Anatoliy

@iamzepp

Подскажите пожалуйста как передать JSON? так получаю 400 bad request
[Host: XXXXXX]
[Connection: keep-alive]
[User-Agent: Tank]
[Authorization: 123]
[Accept: text/plain]
[Content-Type: application/json;charset=utf-8]

42 api/Mun
{"OrderFields":[],"Limit":50,"Start":0}

andreiolegovichru

@andreiolegovichru

@iamzepp расскажите, пожалуйста, какой способ установки танка вы использовали?

Anatoliy

@iamzepp

@andreiolegovichru ubuntu + docker . Запускаю докер контейнер. Пытался миллион вариаций JSON задать. кидает бэд реквест. Помоги пжл добрый человек)

andreiolegovichru

@andreiolegovichru

@iamzepp Напишите на www.andreyolegovich.ru собака яндекс . Попробую повторить ваши шаги.

Ivan Naidenov

@vanyarock01

Здравствуйте! Подскажите пожалуйста, можно ли использовать танк с кастомными протоколами при помощи, например, собственных плагинов или модулей. Есть потребность, но вот не нашел ни одного примера.

Сергей Голод

@s.golod_gitlab

добрый день. Подскажите какой тип генератора поддерживает последовательное выполнение запросов с временными задержками между ними? И второй вопрос - какой тип генератора умеет ждать получение ответа на запрос, прежде чем выполнять следующий запрос?
Если в общем - то что лучше использовать для формирования сценария нагрузочного тестирования поведения пользователя на сайте, который максимально приближен к реальному поведению?

Kaiwi Siry

@Kaiwisiry

У кого-нибудь еще наблюдаются проблемы с https://overload.yandex.net/ ? Список тестов не может прогрузиться, выгрузка результатов тоже почти не работает

Nikson

@razersph3x

Я так же наблюдаю проблемы с https://overload.yandex.net/

Дмитрий Хуциев

@khutsiev_twitter

Это боль, когда пофиксят?

Nikson

@razersph3x

Пофиксили

Ivan Naidenov

@vanyarock01

Добрый день, @skipor взгляните на пулл реквест в пандору пожалуйста?
yandex/pandora#138

Alexandr Ivanov

@trueival

@vanyarock01 Помёржил.

@s.golod_gitlab если нужна сценарная нагрузка, можно использовать bfg или кастомный сценарий в pandora. В bfg проще реализовать(нужно написать на питоне) но количество таких "пользователей" будет очень ограничено. Pandora намного более производительна, да и возможностей у неё больше, но писать сценарий на go будет немного сложнее.

Ivan Naidenov

@vanyarock01

Спасибо!

Сергей Голод

@s.golod_gitlab

@s.golod_gitlab если нужна сценарная нагрузка, можно использовать bfg или кастомный сценарий в pandora. В bfg проще реализовать(нужно написать на питоне) но количество таких "пользователей" будет очень ограничено. Pandora намного более производительна, да и возможностей у неё больше, но писать сценарий на go будет немного сложнее.

Я уже решил что наиболее подходящим будет использование jmeter. Пока потихоньку пишу сценарии.

У Яндекса последняя версия документации про Танк 1.12.6 (https://yandextank.readthedocs.io/_/downloads/en/develop/pdf/), в докере (direvius/yandex-tank либо direvius/yandex-tank:latest) лежит 1.12.1 (--version).
Где все берут свежую версию?

yononka

@yononka

Привет!
Кто-нибудь может подсказать: если я выставляю конфигурацию
instances: 1
load_type: rps
schedule: const(100,10m)
То всё хорошо.

Если выставляю:
instances: 100
load_type: rps
schedule: const(100,10m)
То сервис падает.

Получается, что каждый из 100 инстансов делает по 100rps, и rps уже не 100, а 100*100 ?

tasofen

@tasofen

Подскажите как настроить мониторинг cpu, mem на удаленном сервере. SSH ключи добавил все подключается из консоли. Запускаю тест в докере... пишет SSHException: No authentication methods available.

Vladislav Popov

@WhatIsLooove

Добрый день, новичок в нагрузочном тестировании, осваиваю Яндекс танк и генератор нагрузки Phantom. Подскажите пожалуйста, как отправить POST запрос с параметрами?
Интересует контент тайп и json и x-www-form-urlencoded

Alexandr Ivanov

@trueival

Привет!
Кто-нибудь может подсказать: если я выставляю конфигурацию
instances: 1
load_type: rps
schedule: const(100,10m)
То всё хорошо.
Если выставляю:
instances: 100
load_type: rps
schedule: const(100,10m)
То сервис падает.
Получается, что каждый из 100 инстансов делает по 100rps, и rps уже не 100, а 100*100 ?

Привет. Нет 100 rps распределяются по этим 100 инстансам. Однако танк делает 100 соединений(keep-alive) или создаёт 100 трэдов которые по очереди преустанавливают соединения с сервисом(close). Возможно сервис укладывает работа с соединениями. Возможно танку не хватает памяти на трэды.

Добрый день, новичок в нагрузочном тестировании, осваиваю Яндекс танк и генератор нагрузки Phantom. Подскажите пожалуйста, как отправить POST запрос с параметрами?
Интересует контент тайп и json и x-www-form-urlencoded

Привет.
https://yandextank.readthedocs.io/en/latest/tutorial.html#request-style вот тут есть пример sample POST requests (binary data). Можно по аналогии сформировать для json

6 replies

Napman10

@Napman10

Привет. Подскажите, пожалуйста, что здесь может быть не так? Не создается график
09:49:53 [ERROR] Failed finishing plugin <yandextank.plugins.DataUploader.plugin.Plugin object at 0x7f0f13d7e310>
Traceback (most recent call last):
File "/usr/local/lib/python2.7/dist-packages/yandextank/core/tankcore.py", line 318, in plugins_end_test
retcode = plugin.end_test(retcode)
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 317, in end_test
self.save_conf()
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 458, in save_conf
self.lp_job.send_config(requisites, content)
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 553, in lp_job
self._lp_job = self.get_lp_job()
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 592, in get_lp_job
lp_job.send_config(LPRequisites.CONFIGINITIAL, yaml.dump(self.core.configinitial))
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 805, in send_config
self.api_client.send_config(self.number, lp_requisites, content, trace=self.log_other_requests)
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 764, in number
self.create()
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/plugin.py", line 788, in create
trace=self.log_other_requests)
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/DataUploader/client.py", line 358, in new_job
raise self.JobNotCreated()
JobNotCreated

3 replies

Vadim Ponomarev

@velp

Добрый день. Пытаюсь запустить tank для тестов SSL-terminated балансировки через Haproxy. За Haproxy обычный nginx который в корень / просто отдает ОК.

Конфиг tank следующий:

phantom:
  address: some_ip_here:443
  ssl: true
  instances: 10
  load_profile:
    load_type: rps
    schedule: const(400,2m)
  headers:
    - "[Host: kokoko.ru]"
  uris:
    - /
telegraf:
  enabled: false
console:
  enabled: true # enable console output
uploader:
  enabled: true
  package: yandextank.plugins.DataUploader
  token_file: /var/loadtest/token.txt

Сам tank запущен из официального Docker образа. На Haproxy настроено проксирование 443 -> 80 с self-signed сертификатом. Из самого контейнера с tank и curl

[tank]root@d40bf0338d27: /var/loadtest # curl --insecure --resolve "kokoko.ru:443:some_ip_here" https://kokoko.ru/
OK

и telnet

[tank]root@d40bf0338d27: /var/loadtest # telnet some_ip_here 443
Trying some_ip_here...
Connected to some_ip_here.
Escape character is '^]'.

Connection closed by foreign host.

работают.

Но все запросы на тесте показывают 110 Connection timeout. На стороне Haproxy вижу что запросы прилетают но Haproxy их режектит.

Aug 28 14:33:25 60f6227c-3c61-4b04-9401-2fd8d5839823 haproxy[9513]: ***:57010 [28/Aug/2020:14:33:25.639] 7b82a0aa-8f99-4cc6-ba1b-ac9e8eaba837/1: SSL handshake failure
Aug 28 14:33:25 60f6227c-3c61-4b04-9401-2fd8d5839823 haproxy[9513]: ***:56978 [28/Aug/2020:14:33:25.639] 7b82a0aa-8f99-4cc6-ba1b-ac9e8eaba837/1: SSL handshake failure
Aug 28 14:33:25 60f6227c-3c61-4b04-9401-2fd8d5839823 haproxy[9513]: ***:56932 [28/Aug/2020:14:33:25.639] 7b82a0aa-8f99-4cc6-ba1b-ac9e8eaba837/1: SSL handshake failure

Как подружить yandex-tank с self-signed SSL?

Пробовал добавлять в конфиг tank настройки client_certificate и client_key с файлами, но результат тот же.

Vadim Ponomarev

@velp

👆🏻разобрался. Было выставлено слишком много instances в тестах.

IvanKyznetsov

@IvanKyznetsov

Здравствуйте, после окончания тестирования, во время остановки мониторинга, выдает ошибку и мониторинг не сохраняется(возможно вообще не отрабатывает).
Конфига танка, тут все просто:

overload:
  enabled: true
  token_file: token.txt
phantom:
  address: ***:80
  uris:
    - /
  load_profile:
    load_type: rps
    schedule: const(20, 20)
console:
  enabled: true
telegraf:
  enabled: true
  package: yandextank.plugins.Telegraf
  config: monitoring.xml
  kill_old: false
  ssh_timeout: 30s

Конфиг мониторинга:

<Monitoring>
    <Host address="***" interval="1" username="root">
        <CPU/> <Kernel/> <Net/> <System/> <Memory/>
    </Host>
</Monitoring>

И сама ошибка:

2020-08-30 15:09:54,687 [INFO] yandextank.core.tankcore tankcore.py:321 Stopping monitoring
2020-08-30 15:09:54,687 [INFO] yandextank.core.tankcore tankcore.py:323 Stopping <yandextank.plugins.Telegraf.plugin.Plugin object at 0x7f0495a288d0>
2020-08-30 15:09:54,688 [INFO] yandextank.plugins.Telegraf.plugin plugin.py:233 Finishing monitoring
2020-08-30 15:09:54,688 [DEBUG] yandextank.plugins.Telegraf.collector collector.py:120 Uninstalling monitoring agents
2020-08-30 15:09:54,688 [WARNING] yandextank.plugins.Telegraf.client client.py:361 Unable to correctly stop monitoring agent - session is broken on 134.209..
Traceback (most recent call last):
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/Telegraf/client.py", line 355, in _stop_agent
self.session.send("stop\n")
File "/usr/local/lib/python2.7/dist-packages/yandextank/common/util.py", line 158, in send
self.session.send(data)
File "/usr/local/lib/python2.7/dist-packages/paramiko/channel.py", line 801, in send
return self._send(s, m)
File "/usr/local/lib/python2.7/dist-packages/paramiko/channel.py", line 1198, in _send
raise socket.error("Socket is closed")
error: Socket is closed
2020-08-30 15:09:56,194 [ERROR] yandextank.plugins.Telegraf.client client.py:394 Unable to get agent artefacts
Traceback (most recent call last):
File "/usr/local/lib/python2.7/dist-packages/yandextank/plugins/Telegraf/client.py", line 386, in uninstall
log_filename)
File "/usr/local/lib/python2.7/dist-packages/yandextank/common/util.py", line 109, in get_file
result = sftp.get(remote_path, local_path, self.get_progress_logger(remote_path))
File "/usr/local/lib/python2.7/dist-packages/paramiko/sftp_client.py", line 802, in get
size = self.getfo(remotepath, fl, callback)
File "/usr/local/lib/python2.7/dist-packages/paramiko/sftp_client.py", line 778, in getfo
file_size = self.stat(remotepath).st_size
File "/usr/local/lib/python2.7/dist-packages/paramiko/sftp_client.py", line 493, in stat
t, msg = self._request(CMD_STAT, path)
File "/usr/local/lib/python2.7/dist-packages/paramiko/sftp_client.py", line 813, in _request
return self._read_response(num)
File "/usr/local/lib/python2.7/dist-packages/paramiko/sftp_client.py", line 865, in _read_response
self._convert_status(msg)
File "/usr/local/lib/python2.7/dist-packages/paramiko/sftp_client.py", line 894, in _convert_status
raise IOError(errno.ENOENT, text)
IOError: [Errno 2] No such file
2020-08-30 15:09:56,194 [DEBUG] yandextank.plugins.Telegraf.collector collector.py:133 Waiting for agent <yandextank.plugins.Telegraf.client.SSHClient object at 0x7f0495766210> reader thread to finish.

Gorelykh Anatoly

@Rosherh

Здравствуйте! Подскажите, пожалуйста, не знаю в чем проблема. Я пытаюсь отправить POST-запрос с данными типа multipart/form-data в котором только 1 поле-массив и несколько значений.

590 get_options
POST /api/v1/get_options HTTP/1.1
User-Agent: Tank
Accept: */*
Host: ...
Connection: keep-alive
Content-Type: multipart/form-data; boundary=--------------------------880024703496342765159645
----------------------------880024703496342765159645
Content-Disposition: form-data; name="options[]"

cities
----------------------------880024703496342765159645
Content-Disposition: form-data; name="options[]"

professions
----------------------------880024703496342765159645
Content-Disposition: form-data; name="options[]"

lands
----------------------------880024703496342765159645--

Если сделаю точно такой же запрос через Postman, то получу данные, и код ответа 200, при проверке такого запроса через YT получаю 400 Bad request... Заранее спасибо!

Evgeny Nichegovskiy

@DrBlast

Привет! Вопрос по pandora. Когда запускаю тест grpc через go: go run main.go, все проходит штатно, запросы отправляются
Когда пытаюсь запустить нагрузку через yandex-tank или командой pandora conf.yaml выдается ошибка

    {"error": "3 error(s) decoding:\n\n* 'pools[0]' has invalid keys: source\n* error decoding 'pools[0].ammo': 
no plugins of type core.Provider has been registered for name custom_provider\n* error decoding 'pools[0].gun': 
no plugins of type core.Gun has been registered for name mygun"}

Grigoriy

@ligreen

@Rosherh Привет, очень похоже на то, что не хватает заголовка Content-Length в запросе.

Gorelykh Anatoly

@Rosherh

@ligreen спасибо за ответ! При добавлении Content-Type теперь просто HTTP code 0 N/A... :) В Net code 110 Connection timed out... Странная штука

Evgeny Nichegovskiy

@DrBlast

разобрался, в инструкции лучше явно прописать, что если используется кастомный провайдер, то в месте где указывается # Pandora executable path нужно указывать бинарник кастомного провайдера
pandora_cmd: ./mygun

Mihail Politaev

@mpolitaev

Парни привет!

А вот смотрю что SNI не поддерживается в Phantom, правда что говорят что в Jmeter, если его использовать, этой проблемы нет?

Alexey Artamonov

@scooby18_gitlab

Ребят, а есть кто у кого эластик более 500rps тянет

Mihail Politaev

@mpolitaev

Ну у нас Грэйлог + Эластик. Грэйлог показывает 2000 сообщений в сек на запись. Ну а запись идёт в Эластик. Видимо у нас тогда есть)

Конфигурация - 1 мастер нода, без данных и 2 дата ноды

Alexey Artamonov

@scooby18_gitlab

у меня поисковый запрос

3 мастер - дата ноды

по 32гб озу и 8 ядер, rps 520. Выше получаю http 429

Gorelykh Anatoly

@Rosherh

Ребят, объясните, пожалуйста. Пытаюсь провести нагрузку на 9 роутов одного сервиса, которые описаны в ammo.txt. Не понимаю как узнать корректную фактическую нагрузку, пишет RPS:25 при этом использует Active instances: ~250. Сами instances никак не нужно учитывать в показатель нагрузки (что-то типа Instances * rps) и главное смотреть на показатель RPS? При тестировании с файлом ammo.txt как-то играет показатель если описывать больше 1 роута для теста?

Просто странно, что при 25 RPS, судя по показателям на экране, я уже получаю какие-то ошибки в HTTP Codes: 0 N/A и в Net codes: 110 Connection timed out.

Конечно, возможно, здесь играет роль, как настроен файл конфигурации nginx, но даже с настройками по умолчанию должно же выдавать rps больше...

Vladislav Popov

@WhatIsLooove

Всем привет, подскажите пожалуйста, как через Пандору отправить запрос с параметрами. В фантоме для ГЕТ запроса в файле load.yaml можно было прописать два параметра и пережать хедеры так:
header_http: "1.1"
headers:

    - "[Host: hostname.com]"
    - ...

Но Пандора не принимает эти параметры в файле и все запросы валятся с ошибкой.
Еще подскажите как отправлять ПОСТ запросы с json телом запроса?

Vladislav Popov

@WhatIsLooove

И подскажите еще как ее с Яндекс танком подружить, а то появляется ошибка
Test interrupted:

<type 'exceptions.RuntimeError'>: Unable to start Pandora binary and/or file does not exist: ['/Users/popov/yandex-tank/pandora', '-expvar', '/var/loadtest/yandex-tank/logs/2020-09-15_09-55-42.953168/pandora_config_3s5i9Q.yaml']

Andrey Filatov

@afilatov

@Rosherh В вашем случае мишень/сервис не отвечает и все запросы отваливаются по таймауту (по умолчанию в танке 11 секунд), поэтому вы и видите на экране соответствующие ошибки с netcode 110. Что касается инстансов, то их количество объяснимо: для 25 rps и времени ответа на каждый запрос в 10 секунд танку приходится использовать 10*25 = +-250 инстансов

BischevRamil

@BischevRamil

Всем привет, кто нибудь устанавливал танк на яндекс клауд из маркетплэйса? При подключении к серийной консоли танк просит логин и пароль. Откуда его взять?

Where communities thrive

People

Repo info

Activity