Грешки, лимити и устойчивост

Всяко извикване на външна услуга е обещание, което може да не бъде изпълнено: мрежата пада, лимитът се изчерпва, услугата има авария, отговорът се бави твърде дълго. Разликата между демонстрация и работеща система е точно в обработката на тези случаи.

import time, random

def s_povtorenie(f, opiti=3):
    for i in range(opiti):
        try:
            return f()
        except VremenElement as e:          # само временните грешки
            if i == opiti - 1:
                raise
            izchakvane = (2 ** i) + random.uniform(0, 0.5)
            time.sleep(izchakvane)

Заявка без таймаут може да виси минути и да задържи ресурси. Всяко извикване има таван — обикновено 20–60 секунди според задачата.

• Таймаутът се задава при клиента на модела, не се разчита на подразбиране.
• Таймаутът плюс повторните опити трябва да се събират в общия бюджет на заявката.
• При изчерпан бюджет се връща разбираемо съобщение, не се чака „още малко“.

Смисълът: когато услугата е паднала, стотиците чакащи заявки само влошават положението и задържат вашите ресурси. По-добре е бърз отказ и опит след минута.

1. Броим последователните неуспехи.
2. След 5 поредни спираме да звъним за 60 секунди — връщаме грешка веднага.
3. След това пускаме една пробна заявка.
4. Ако успее, връщаме се към нормална работа.

• Лимит на потребител — брой запитвания на час и на ден.
• Таван на дължината — и на входа, и на изхода.
• Общ дневен таван — при достигане системата минава на резервен режим, вместо да генерира сметка.
• Наблюдение — сигнал при рязък скок на разхода (урок 24).