Преподавая частным образом астрономию дочери одной знатной клиентки, Виет пришел к мысли составить труд, посвященный усовершенствованию птолемеевской системы. Затем он приступил к разработке тригонометрии и приложению ее к решению алгебраических уравнений. В 1571 году Виет переехал в Париж и там познакомился с математиком Пьером Рамусом. Благодаря своему таланту и отчасти благодаря браку своей бывшей ученицы с принцем де Роганом, Виет сделал блестящую карьеру и стал советником Генриха III, а после его смерти-Генриха IV.
Но главной страстью Виета была математика. Он глубоко изучил сочинения классиков Архимеда и Диофанта, ближайших предшественников Кардано, Бомбелли, Стевина и других. Виета они не только восхищали, в них он видел большой изъян, заключающийся в трудности понимания из-за словесной символики.
Почти все действия и знаки записывались словами, не было намека на те удобные, почти автоматические правила, которыми мы сейчас пользуемся. Нельзя было записывать и, следовательно, начать в общем виде алгебраические сравнения или какие-нибудь другие алгебраические выражения. Каждый вид уравнения с числовыми коэффициентами решался по особому правилу. Так, например, у Кардано рассматривались 66 видов алгебраических уравнений. Поэтому необходимо было доказать, что существуют такие общие действия над всеми числами, которые от этих самих чисел не зависят. Виет и его последователи установи, что не имеет значения, будет ли рассматриваемое число количеством предметов или длиной отрезка. Главное, что с этими числами можно производить алгебраические действия и в результате снова получать числа того же рода. Значит, их можно обозначать какими-либо отвлеченными знаками. Виет это и сделал. Он не только ввел свое буквенное исчисление, но сделал принципиально новое открытий, поставив перед собой цель изучать не числа, а действия над ними. Правда, у самого Виета алгебраические символы еще были мало похожи на наши. Например, кубическое уравнение Виет записывал так:
Нельзя сказать, что во Франции о Виете ничего не знали. Громкую славу он получил при Генрихе III, во время франко-испанской войны. Испанские инквизиторы изобрели очень сложную тайнопись (шифр), которая все время изменялась и дополнялась. Благодаря такому шифру воинствующая и сильная в то время Испания могла свободно переписываться с противниками французского короля даже внутри Франции, и эта переписка всё время оставалась неразгаданной. После бесплодных попыток найти ключ к шифру король обратился к Виету. Рассказывают, что Виет две недели подряд дни и ночи просидев за работой, все же нашел ключ к испанскому шифру. После этого неожиданно для испанцев Франция стала выигрывать одно сражение за другим. Испанцы долго недоумевали. Наконец им стало известно, что шифр для французов уже не секрет и что виновник его расшифровки - Виет. Будучи уверенными в невозможности разгадать их способ тайнописи людьми, они обвинили Францию перед папой римским и инквизицией в кознях дьявола, а Виет был обвинен в союзе с дьяволом и приговорен к сожжению на костре. К счастью для науки, он не был выдан инквизиции. В последние годы жизни Виет занимал важные посты при дворе короля Франции. Умер он в Париже в самом начале семнадцатого столетия. Подозревают, что он был убит.
Работы по математике писал чрезвычайно трудным языком, поэтому они не получили распространения. Труды Виета были собраны после его смерти профессором математики в Лейдене Ф. Шоотеном. В трудах Виета алгебра становится общей наукой об алгебраических уравнениях, основанной на символических обозначениях. Виет первый обозначил буквами не только неизвестные, но и данные величины, т. е. коэффициенты соответствующих уравнений. Благодаря этому стало впервые возможным выражение свойств уравнений и их корней общими формулами, и сами алгебраические выражения превратились в объекты, над которыми можно производить действия. Виет разработал единообразный прием решения уравнений 2-й, 3-й и 4-й степени и новый метод решения кубического уравнения, дал тригонометрическое решение уравнения 3-й степени в неприводимом случае, предложил различные рациональные преобразования корней, установил зависимость между корнями и коэффициентами уравнений (формулы Виета). Для приближенного решения уравнений с числовыми коэффициентами Виет предложил метод, сходный с методом, позднее разработанным И. Ньютоном. Достижения Виета в тригонометрии - полное решение задачи об определении всех элементов плоского или сферического треугольников по трем данным элементам, важные разложения sin пх и cos пх по степеням cos х и sinx. Знание формулы синусов и косинусов кратных дуг дало возможность Виету решить уравнение 45-й степени, предложенное математиком А. Рооменом; Виет показал, что решение этого уравнения сводится к разделению угла на 45 равных частей и что существуют 23 положительных корня этого уравнения. Виет решил задачу Аполлония с помощью линейки и циркуля.