Nikdy jste nepřiřadili svůj připojovací řetězec k objektu připojení, jak říká chyba.
Před con.open.
vložte řádek nastavující připojovací řetězecCon.connectionstring = connection
Con.Open()
Nebo ještě lépe, změňte svůj příkaz using následovně
Dim Connection As String = "Data Source=.\SQLEXPRESS;AttachDbFilename=G:\VB Project\Library Catalog System\Library Catalog System\library.mdf;Integrated
Security=True;Connect Timeout=30;User Instance=True"
Using Con As New SqlConnection(connection)