Общая вырученная сумма = квадрату целого числа.
Запишем его как 10а + б, где б - число от 0 до 9.
Тогда квадрат этого числа = 100*а*а + 20*б + б*б.
Денег не хватило одному из участников дележа, значит число десятков в вырученной сумме - нечётное, то есть, на чётность суммы влияет только б*б, так как 100*а*а + 20*б содержит чётное количество десятков
Возьмем квадраты чисел от 0 до 9 :
0, 1, 4, 9, 16, 25, 36, 49, 64, 81.
Нечётное количество десятков только у чисел 16 и 36.
Значит в конце делёжа Сергей отдал Ивану 6 рублей и флягу - за 4 рубля.