Разрешили бы Гэндальфу сразиться со Смаугом?

Вероятно.

Запрет на Истари:

«Их эмиссарам [Истари/Волшебникам] было запрещено проявлять себя в формах величия или пытаться управлять волей людей или эльфов, открыто демонстрируя силу»
_{Неоконченные сказания , Истари}

«Но им было запрещено сопоставлять его [Саурона] силу с силой или пытаться доминировать над эльфами или людьми силой или страхом».
_{ВК , Приложение Б}

Борьба со Смаугом не будет означать попытки править или внушать страх эльфам или людям, а также попытку победить Саурона напрямую, так что, вероятно, все будет в порядке.

Гэндальф сражался с Балрогом, потому что никто другой не мог этого сделать; потенциальное поражение Братства на столь раннем этапе его путешествия было бы разрушительным.

Смауг не представляет такой угрозы. Он был потенциально опасен, если бы его завербовали в армию Саурона, но в остальном он в основном просто болтался, считая свои монеты и поедая несколько драгоценных камней. Он вселил ужас в местных жителей, но не представлял угрозы для всего королевства. Я думаю, что это также сильно подразумевает, что Смауг был наказанием гномов за их жадность и алчность, и Гэндальф, действующий как главный убийца драконов, пошел бы против своей роли (морального) наставника. Конечно, Гэндальф проявлял больше интереса к миру смертных, чем многие другие его силы, но в его характере вмешиваться как можно меньше. Он предпочел бы создавать и поощрять героизм среди смертных, чем сам сражаться со всеми злодеями.