Родился 6 декабря 1903 года в Санкт-Петербурге в семье лесничего, осетина. До четырёх лет жил в Санкт-Петербурге, в доме на Кабинетской улице (ныне — улица Правды). Позднее отец по долгу службы, а с ним и семья жили в Сибири, вТверской губернии, в Полтаве, в Харькове. В Полтаве Газданов учился в кадетском корпусе, после (с 1912 и до начала Гражданской войны) — в Харьковской гимназии.

В 1919 году, в неполные 16 лет, Газданов присоединился к Добровольческому движению П. Н. Врангеля, как говорил позднее, чтобы «узнать, что такое война». Прослужил год в звании рядового солдата на бронепоезде. Вместе с отступающей Белой армией он оказался в Крыму. Пароходом уплыл в Турцию. В Константинополе написал свой первый рассказ («Гостиница грядущего», 1922). В болгарском городе Шумене окончил русскую гимназию (в Харькове Газданов доучился до седьмого класса).

В 1923 году переехал в Париж, где прожил большую часть своей жизни. Был портовым грузчиком, мойщиком паровозов, слесарем на автозаводе «Ситроен», преподавал французский и русский языки. Порой, когда он не мог найти работы, вынужден был жить, как клошар, ночуя на улице. Четыре года учился на историко-филологическом факультете Сорбонны, изучал историю литературы, социологию, экономику. Долгие годы (1928—1952), уже будучи известным писателем, был вынужден работать ночным таксистом. В романе «Ночные дороги» (1941) нашло отражение знакомство Газданова с парижским дном. Лишь после войны книга «Возвращение Будды», имевшая большой успех, принесла ему финансовую независимость.

Его первый роман «Вечер у Клэр» вышел в 1929 году и был высоко оценен Буниным и М. Горьким, а также критиками русского зарубежья.

В 1932 году через писателя и критика Михаила Осоргина Газданов вступает в масонскую ложу «Северная звезда». В ней Газданов занимал ряд должностей, а в 1961 году стал её досточтимым мастером.

Вехи в масонском пути Газданова:

Посвящён по рекомендации М. Осоргина и М. Тер-Погосяна 2 июня 1932 в достопочтенной ложе «Северная звезда» под эгидой (ВВФ). Возведён во 2-ю степень 13 июля 1933 года. Числился в «отпуске» в 1939 году. оратор с 18 октября 1946 года, с 12 ноября 1959 года и в 1966 году. Судья ложи с 9 октября 1947 по 1948 год. привратник с 9 октября 1952 года. Делегат ложи с 12 ноября 1959 года. Досточтимый мастер в 1961—1962 году. Первый страж с 27 ноября 1962 по 1964 годы. Член ложи до кончины.

Критика признала его и Владимира Набокова самыми талантливыми писателями молодого поколения. В Париже он стал членом Союза молодых писателей и поэтов, переименованного в Объединение писателей и поэтов в 1931 году. Уже в 1934 году вошёл в число руководителей Издательской коллегии. Завоевав высокую литературную репутацию, Г. Газданов регулярно печатался в «Современных записках», считавшихся самым авторитетным периодическим изданием эмиграции, участвовал в литературном объединении «Кочевье». В «Кочевье» он читал свою прозу, а также выступал с докладами о В. Розанове, А. Ремизове, И. Бунине, В. Маяковском.

Газданов хотел вернуться на родину, для чего в 1935 году обратился с просьбой о помощи к М. Горькому, но тот не успел выполнить данного обещания, умерев в 1936 году. В этом же году Газданов женился на Фаине Дмитриевне Ламзаки, родившейся в семье одесских греков.

В 1937 году И. А. Бунин в интервью белградской газете особо отметил в русской эмигрантской литературе «младших писателей», из прозаиков назвав Сирина, Газданова, Берберову (в таком порядке).

В годы войны Газданов оставался в оккупированном Париже. В своей квартире, с помощью жены, укрывал евреев, помогал им. Так, он помог М. Слониму перебраться на неоккупированную часть Франции. С 1942 года принимал участие в движении Сопротивления, вступил в партизанскую бригаду, созданную советскими пленными. Работал в подпольном журнале: издавал информационные бюллетени. Его жена работала как связная между парижской группой «Русский патриот» и беглыми советскими военнопленными. В 1947 году Газданов с женой получают французское гражданство. С 1953 года и до конца жизни Газданов работал журналистом и редактором на радио «Свобода», где, под псевдонимом Георгий Черкасов, вёл передачи, посвящённые русской литературе.

Несмотря на известность и всеобщее признание, работу таксиста Газданов смог оставить лишь после того, как вышел в печать его роман «Призрак Александра Вольфа». Роман сразу по выходе был переведён на основные европейские языки.

Могила Гайто Газданова на кладбище Сент-Женевьев-де-Буа

В 1970 году писателю поставили страшный диагноз — рак лёгких. Газданов стойко переносил болезнь, даже близкие люди не знали, как тяжело ему было. Посторонние же и вовсе не подозревали, что он смертельно болен. Гайто Газданов умер накануне 68-летия 5 декабря 1971 года в Мюнхене, похоронен на кладбище Сент-Женевьев де Буа под Парижем.