Задача по математике с олимпиады в Германии для гениев: как найти значения a и b

Вопросы для олимпиады по математике в Германии для гениальных учеников и как решить задачу нахождения значения b.