Существует несколько версий происхождения названия города. Так, например, есть версии о том, что оно восходит к названию реки Смольня (старославянское «смоль» — чернозём), либо к этнонимам смоляне. Самая распространённая версия происхождения упоминает «Путь из варяг в греки». Город находился на окончании места, где переволакивали корабли из Западной Двины в Днепр. Этот волок проходил по первоначальному месту возникновения Смоленска (ныне Гнёздово), где местные ремесленники смолили лодки торговцев.

Смоленск является одним из первых городов Руси. В датированной части «Повести временных лет» впервые упоминается под 862 годом как центр племенного союза кривичей. По Устюженскому (Архангелогородскому) своду в записи под 863 годом, когда Аскольд и Дир в походе из Новгорода в Царьград обошли город стороной, так как город был сильно укреплен и многолюден. В 882 году город был захвачен и присоединен к Киевской Руси князем Олегом, передавшим его в удел князю Игорю, из малолетства которого власть в городе осуществлялась наместниками и дружиной, а общее управление осуществлялось из Киева.

Формирование Древнего Смоленска (вероятно, стоявшего там, где сейчас Гнёздово) определило выгодное расположение на перекрестке торговых путей: «путь из варяг в греки» соединял Варяжское и Черное моря, путь, проходивший с запада на восток, соединял город с Волгой и далее вел в «болгары», в Хвалынское море, в Великий Новгород и Верхнее Поволжье (через Ржев и озеро Селигер). Предположительно о нем упоминает в своём труде «Об управлении империей» византийский император Константин VII Багрянородный, называя его Милиниска.